【环球财经】美国元公司AI模型在测试期间侵入其他公司系统
来源:新华社
新华财经旧金山8月6日电(记者吴晓凌)美国元公司(Meta)6日证实,其一款人工智能(AI)模型日前在网络安全能力评测期间侵入其他公司系统。
据美国媒体报道,元公司在一份声明中说,公司聘用的第三方评测合作伙伴以色列“非常规”人工智能公司在配置评测环境时出现错误,无意中使一款模型在评测期间能够访问互联网。该模型随后利用了第三方服务中的一个安全漏洞,其行为方式与其他企业此前报告的同类事件相似。
美国《信息》杂志援引知情人士的消息报道,涉事模型侵入了一家未具名公司的系统,并修改了其内部运行环境。元公司尚未披露涉事模型名称、遭利用的第三方服务名称、漏洞性质及模型采取的具体操作,也没有说明事件是否造成实际影响。元公司表示,正在对事件展开调查,并将在掌握全部事实后发布完整的事件复盘报告。
“非常规”人工智能公司发言人对媒体说,此次事件属于与美国Anthropic公司上周披露的问题完全相同的评测环境问题,不涉及“突破沙箱”或“复杂的网络行动”。该公司正在编写一份白皮书,以分享模型约束机制和安全开展网络安全评测的最佳做法。
美国开放人工智能研究中心(OpenAI)日前承认,由多个OpenAI模型驱动的人工智能体近期在网络安全评测中利用漏洞突破隔离环境,并侵入了美国“抱抱脸”公司系统。OpenAI随后承认其他两起类似事件,均涉及模型活动超出预定测试边界,包括因评测环境配置错误导致模型接入互联网并侵入一个网站。美国Anthropic公司7月30日说,在审查该公司网络安全能力评估记录后发现,其人工智能模型曾在网络能力测试中未经授权访问了3家机构的系统。
郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
评论该主题
帖子不见了!怎么办?作者:您目前是匿名发表 登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》