• 最近访问:
发表于 2024-12-24 06:06:00 股吧网页版
时报观察:AI新骗局 平台责任大
来源:证券时报网 作者:陈霞昌

  人工智能(AI)骗局又有了新花样。

  有网友向媒体反映,家中老人在网络卖货视频中看到“张文宏医生”在卖一种蛋白类的产品。老人信以为真,不仅下了单还转发到了很多群。经核实,该视频中的“张文宏医生”不是张文宏本人,而是利用AI技术合成的。张文宏对此回应称,这样的卖货账号已出现多个,而且一直在变。他虽然多次向平台投诉,但都收效甚微。

  张文宏是国家传染病医学中心(上海)主任,复旦大学附属华山医院感染科主任。在新冠疫情期间,因为多次在公开场合发声而被普通人熟知,在社会上具有很高的权威性和公信力。如果他来带货,愿意买单的人自然很多。骗子们也是利用了普通人这种心理,才想出用AI合成视频进行带货。

  相比过往利用熟人的影像和声音,通过电话或者微信进行诈骗,近期利用AI合成名人照片、视频进行的骗局屡见不鲜,受害者除了张文宏,还有靳东、黄百鸣等影视明星。

  国家网信办、工信部、公安部在2022年颁行了《互联网信息服务深度合成管理规定》,其中明确了深度合成技术的使用规范,规定不得利用深度合成服务侵犯他人合法权益。上述行为显然不合法不合规。

  值得关注的是,此类骗局,更多是利用短视频平台、电商平台等进行发布和直播,吸引用户购买相关产品,然后完成整个欺诈过程。显然,平台对此应该担负起更多的审核责任。

  《互联网信息服务深度合成管理规定》要求深度合成服务提供者提供深度合成服务,可能导致公众混淆或者误认的,必须在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况。

  但刻意造假者显然不会遵守此项规定,平台则应该主动对相关视频进行审核和监管。至少从技术层面上,对任何上传的合成视频都应该主动提示。

  张文宏说他虽然多次向平台投诉,但都收效甚微。事实上,正是一些平台机制不完善、治理不给力,客观上让一些不法分子有机可乘,甚至有恃无恐。而根据前述管理规定,视频平台若是对平台使用者的这种侵权行为不予恰当处理,则可能承担连带责任。

  AI合成或者生成视频,给平台带来了更多的流量,吸引了更多的用户。平台企业在享受流量增加的同时,也有必要承担更多责任,避免有更多受害者受骗上当。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
郑重声明:用户在社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-34289898 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:021-54509966/952500