12月15日，“微信珊瑚安全”微信公众号发布关于打击利用AI仿冒知名人士进行营销宣传的公告。 内容如下： 近期有媒体报道网络存在利用AI技术仿冒名人进行不当营销的现象。为守护用户权益，避免消费者上当受骗，结合用户举报、日常巡查等线索，微信平台从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，并针对相关情况开展专项治理。截至目前，累计处置内容532条，关闭账号209个。典型案例如下： 下一步，微信平台将持续对“利用AI仿冒知名人士进行营销宣传”等违规行为增加打击力度，进一步提升技术治理能力和水平，维护良好生态。同时，微信平台也倡导广大用户自觉遵守法律法规与平台规则。针对“利用AI合成技术生成违规内容”的行为，平台欢迎广大网友提供更多线索，共同构建清朗有序的网络环境。 当下，AI合成技术已经非常成熟且已被频繁应用在短视频制作中。调取一段录像，输入一段语音，便能提取克隆相关的嗓音特质，并针对“自行设计”的台词，智能修改口型。 据央广网报道，利用AI技术炮制名人音视频作品以假乱真，甚至伪装成熟人、亲人实施精准诈骗的案例屡见不鲜。 对此，北京市京都律师事务所合伙人徐伟律师认为，未经授权使用AI换脸技术进行经营行为，已侵犯到当事人的肖像权。在这种情况之下，如果经营者有夸大产品功效、虚高产品价格的行为，消费者基于对当事人的信任而购买该产品，该行为还有可能构成诈骗罪。而且，最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》中明确，对利用“深度合成”等生成式人工智能技术发布违法信息的，依法从重处罚。 “AI换脸”技术的应用中，从视频最终的内容角度考量，如果有人利用换脸软件对他人进行恶意丑化、玷污式恶搞，或者将他人的脸换到不雅视频中，还会侵犯他人的名誉权。 此类事件中，徐伟认为除了经营者，AI技术提供者和视频平台，也需要承担相应的责任。 徐伟介绍，根据《互联网信息服务深度合成管理规定》，要求深度合成服务提供者提供深度合成服务，可能导致公众混淆或者误认的，必须在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。目前一些较大的视频平台在许多AI生成的真人换脸视频下方都含有提示信息，在用户刷到AI生成内容的视频时，会标注“AI生成内容”或“疑似包含AI创作信息，请注意甄别真实度”等提醒。如果被投诉的虚假视频发现没有该类提示性标注，则平台难辞其咎。 视频平台若是对平台使用者的这种侵权行为不予恰当处理，则可能承担连带责任。平台具有一定的审查、监督职责，在被告知或发现此类违法行为后，应当积极响应权利人的请求，及时撤销、下架相关侵权图片、视频，中止相关直播等，避免恶劣影响的进一步扩大。相反，平台若是有意放纵此类行为的发生、继续，对相关投诉、举报等视若无睹则应当与侵权者承担连带责任。 （文章来源：每日经济新闻）
有话要说...