“一名戴帽子的小男孩被压在倒塌的废墟下,全身都是尘土。”这张AI“骗照”,因为配文日喀则地震等关键词让人记忆犹新。
近日,一些网友为了流量,利用AI技术生成“灾区”群众被埋、房屋坍塌等虚假照片进行发布,造成大众误解。
尽管平台给出提示,该图片疑似使用AI生成技术,请谨慎甄别。但这张图片借由人们对重大灾难事件的关切,被多个账户转发,很快在平台大面积传播,很多网友在留言区关注男孩的生命安全。
如此造假,并非个例。不少短视频博主都发布了AI生成的灾区图片,以假乱真博取流量。
人们关注灾情,需要的是真实、准确、及时的信息,而不是假图、假视频、假信息。此类虚假图片不仅抓住了重大事件,还刻意聚焦儿童等弱势群体,引起公众瞩目。
如此瞩目一旦产生聚合效应,后果不容小觑。一方面淆乱救援者对灾情之研判与施救,很可能对救援工作产生误导,浪费宝贵的救援资源。
另一方面,无论是有心为之还是无心之过,不仅消费公众情感,还扰乱公共秩序。有的AI造假图,随意将“灾区”移花接木,很容易引起社会恐慌情绪。
如今,AI应用已经深入到普通人生活工作,越是高频次高渗透,越要谨慎安全、合规守法。不能让AI谣言、AI假图之类的不实信息来浑水摸鱼。
治理AI造假,在技术愈加完善、生成内容大幅增加的背景下,给各方提出了更高的要求。
根据我国治安管理处罚法规定,发布者编造虚假险情、疫情、灾情、警情,在信息网络或者其他媒体上传播,严重扰乱社会秩序,可能会面临严重刑事责任。
面对虚假信息与真实信息共存、交融的局面,监管必须层层加码。严惩恶意造假博取流量,提高其违法成本,延长“禁言”期限,设置黑名单制度。
平台监管顾后也要“瞻前”,很多信息在发出后面对审核,实则错过了纠错环节,审核滞后等于间接给了转发更多时间。
鉴于此,平台应在重大事件面前完善审核时效、制度、技术等,对用户发布内容进行有效甄别,对于疑似AI生成内容,及时进行标注、处理,主动出手干预。
在真假信息大爆炸的时代,公众也要提升辨别能力。一些AI图片,经不起仔细推敲,往往非常具有视觉冲击力。在按下转发键之前,一定要仔细甄别信息来源与真实性。
同时,对于明显造假的不实内容,积极使用平台设置的举报机制,确保有限的注意力留在真正需要的地方。