微信官方最新通知:账号将被永久封停,微信平台严厉打击AI仿冒名人营销行为
微信平台严厉打击AI仿冒名人营销行为
12月15日,微信官方公众号“微信珊瑚安全”发布了一则公告,宣布将严厉打击利用AI技术仿冒知名人士进行不当营销的行为。近期,有媒体曝光了一些不法分子利用AI技术伪造名人音视频,进行虚假宣传和诈骗活动。为了保护用户的合法权益,避免消费者上当受骗,微信平台迅速采取行动,通过用户举报和日常巡查等手段,查处了一批违规账号和内容。
截至目前,微信平台已累计处置违规内容532条,关闭违规账号209个。以下是部分典型案例:
专项治理初见成效
微信平台表示,将进一步加大对“利用AI仿冒知名人士进行营销宣传”等违规行为的打击力度,提升技术治理能力和水平,维护良好的网络生态环境。平台也呼吁广大用户自觉遵守法律法规和平台规则,积极提供相关线索,共同营造一个清朗有序的网络环境。
AI合成技术的法律风险
当前,AI合成技术已经非常成熟,并广泛应用于短视频制作中。只需调用一段录像和输入一段语音,就能提取并克隆相关的声音特征,并根据设计的台词智能修改口型。然而,这种技术也被不法分子用于制造虚假内容,甚至实施精准诈骗。
北京市京都律师事务所合伙人徐伟律师指出,未经授权使用AI换脸技术进行商业活动,已经侵犯了当事人的肖像权。如果经营者在推广过程中夸大产品功效或虚高产品价格,导致消费者基于对当事人的信任购买产品,这种行为还可能构成诈骗罪。此外,最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》明确规定,利用“深度合成”等生成式人工智能技术发布违法信息的,将依法从重处罚。
多方责任共担
在“AI换脸”技术的应用中,如果有人利用换脸软件对他人进行恶意丑化或玷污式恶搞,甚至将他人的脸换到不雅视频中,还会侵犯他人的名誉权。在这种情况下,不仅经营者需要承担责任,AI技术提供者和视频平台也应承担相应的法律责任。
根据《互联网信息服务深度合成管理规定》,深度合成服务提供者在生成或编辑可能导致公众混淆或误认的信息内容时,必须在合理位置进行显著标识,提示公众注意深度合成情况。目前,一些大型视频平台已经在许多AI生成的换脸视频下方添加了提示信息,如“AI生成内容”或“疑似包含AI创作信息,请注意甄别真实度”。
如果平台在收到用户投诉或发现侵权行为后,未能及时处理,可能会承担连带责任。平台具有一定的审查和监督职责,应当积极响应权利人的请求,及时撤销、下架相关侵权图片和视频,中止相关直播,避免恶劣影响的进一步扩大。相反,如果平台故意放纵此类行为的发生和继续,对相关投诉和举报置之不理,则应与侵权者共同承担责任。