12月15日，“微信珊瑚安全”公众号发布《关于打击利用AI仿冒知名人士进行营销宣传的公告》：

　　微信一直致力于打造安全、健康、绿色的平台生态环境。近期有媒体报道网络存在利用AI技术仿冒名人进行不当营销的现象。为守护用户权益，避免消费者上当受骗，结合用户举报、日常巡查等线索，微信从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，并针对相关情况开展专项治理。

　　截至目前，累计处置内容532条，关闭账号209个。典型案例如下：

　　下一步，微信将持续对“利用AI仿冒知名人士进行营销宣传”等违规行为增加打击力度，进一步提升技术治理能力和水平，维护良好生态。同时，平台也倡导广大用户自觉遵守法律法规与平台规则。针对“利用AI合成技术生成违规内容”的行为，平台欢迎广大网友提供更多线索，共同构建清朗有序的网络环境。

　　张文宏“被AI带货”

　　日前，有网友发消息称，“张文宏是不是带货了？”视频中，“张文宏”在卖一种蛋白棒，声音听起来很像张文宏本人，一些老人信以为真，不仅下了单，还呼朋引伴来购买。

　　据央视新闻报道，对此，张文宏回应称，这样的卖货账号不止一个，而且一直在变，他多次向平台投诉但屡禁不绝。

　　工信部信息通信经济专家委员会委员盘和林表示：“AI技术冒充名人带货、诈骗越来越多，这里的关键不在AI，而是要及时处理利用AI冒充他人的内容发布者。冒名顶替、虚假宣传、破坏名人肖像权、利用名人的公信力来牟利，这些行为会给名人带来风险，也会成为诈骗分子的温床。”

　　工信部反诈工作专班专家李坤介绍，在网上，耳听眼见不一定为实。“拟声”“换脸”等合成技术的一大特点是以假乱真，不法分子可以利用此类技术轻易伪装成他人，并通过快速筛选目标人群、精准制定诈骗脚本。

　　广电总局出手管理AI“魔改”视频

　　在各大视频平台上，类似《三国演义》刘备、张飞化身“变种人”，《甄嬛传》变身“枪战片”，《还珠格格》紫薇给容嬷嬷“喂啤酒”等各种AI改编影视剧段落十分常见；此外，《红楼梦》变成“武打戏”、孙悟空骑着摩托车扬长而去等脑洞大开的场景也比比皆是。其中，经典影视作品《三国演义》一直是被“魔改”的对象，点赞量超百万甚至200万的视频不在少数。

　　12月7日，广电总局网络视听司发布的《管理提示（AI魔改）》提到，近期，AI“魔改”视频以假乱真、“魔改”经典现象频发。这些视频为博流量，毫无边界亵渎经典IP，冲击传统文化认知，与原著精神内核相悖，且涉嫌构成侵权行为。

　　对此，《管理提示》要求，各相关省局督促辖区内短视频平台排查清理AI“魔改”影视剧的短视频，严格落实生成式人工智能内容审核要求。

　　技术专家教你三招识破套路

　　“AI换脸”套路招式多，普通用户应该如何辨真伪？南方财经全媒体记者曾专访了中国网络空间安全协会人工智能安全治理专业委员会委员、天融信科技集团助理总裁张博。对于如何防范“AI换脸”带来的风险，张博表示：

　　第一是提高自身的安全风险意识，“AI换脸”可能跟交易诈骗场景结合出现，所以在涉及提供个人信息、转账汇款等敏感场景时，应保持高度警惕，以防受骗。

　　第二是在接收到视频通话等视频信息时，要仔细观察对方视频中的光线背景、面部轮廓等细节是否自然，如有必要，可以要求对方进行快速的抬头、低头、左右转头等动作，观察画面是否存在异常，进一步验证视频的真实性。

　　第三，在面临转账汇款等金融交易时，可通过其他相对可靠的方式，例如亲自打电话等确认对方身份，以确保交易信息无误，避免因轻信虚假信息而遭受损失。

　　此外，应该加强对个人信息的防范保护，对人脸信息、指纹信息等敏感信息需要提高警惕，不要轻易泄露。在技术层面，可以采用人工智能检测的方式来识别视频内容是否有伪造，还可以增加身份认证和数字水印，加大伪造难度。

　　来源：21财经客户端、21世纪经济报道（记者：陈梦璇）、央视新闻、上游新闻