全国A级! 三六零大模型安全能力获中国人工智能大赛认证
来源:上海证券报
12月20日,第五届中国人工智能成果发布会在厦门召开。三六零(601360.SH,下称“360”)集团因在人工智能安全治理“大模型安全攻防赛”中表现突出,荣获本届中国人工智能大赛A级证书。
今年9月,在国家互联网信息办公室、公安部指导下,厦门市人民政府主办的第五届中国人工智能大赛正式启动,围绕人工智能安全治理和创新发展两大主线设置了赛题。作为重要赛题之一,大模型安全攻防赛是将15000条包含恶意和正常的大语言模型提示词样本输入到参赛的大语言模型中,借此考察大模型对攻击的防范能力。
据了解,人工智能在提升生产力的同时,也带来了包括幻觉、深度伪造、注入攻击、数据污染或投毒等前所未有的安全新挑战。作为兼具数字安全和AI双重能力的科技企业,360很早开始关注大模型安全风险,并推出一系列有针对性的创新技术,包括开发了国内首个安全大模型,通过“以模制模”理念,利用AI大模型来检测和防范大模型可能出现的安全风险,既解决传统网络安全问题,又为攻克AI安全新挑战提供了可行性方案。
近日,360集团还牵头发起成立大模型安全联盟,旨在打造资源共享、共创共赢的大模型安全生态集群,共同推动大模型安全标准的制定、安全技术的创新和安全能力的提升,打造大模型安全发展的新范式。
同时,360基于“安全、向善、可信、可控”的四大原则,推出多款具有重要行业价值的企业级应用新产品,包括大模型全链路安全检测的“智鉴”、内容安全护航的“智盾”、搜索增强利器“智搜”,以及知识管理平台“智能文档云”和情报监测工具“舆情卫士”,全面覆盖了大模型系统安全、内容安全、智能知识管理与情报分析等关键领域,通过技术创新与生态建设,持续为大模型安全及行业发展注入新动能。
郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
评论该主题
帖子不见了!怎么办?作者:您目前是匿名发表 登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
郑重声明:用户在社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》