2024年世界互联网大会乌镇峰会19日启幕。峰会的主题是“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”，充分体现出更加聚焦人工智能技术、产业发展及其对人类经济社会的影响，及时回应各方对人工智能发展与治理的关切。

　　人工智能的迅猛发展正促进一些经济形态的颠覆式变革，催生了不少新业态，而这一趋势预计会越来越强烈；同时，人工智能的迅猛发展又带来了被滥用甚至被“恶用”的风险。这也是本次峰会强调“智能向善”的重要背景和原因。

　　人工智能“为恶”的情况已屡见不鲜。其中包括：人工智能已成为电信诈骗领域最凶险的手段，被人工智能“赋能”后的电信诈骗行为有可能成为全球最具危害性的有组织犯罪之一；通过变脸、变音等技术手段编造视频对人格权的侵犯等。

　　人工智能可能带来的各种风险和复杂挑战，是全球当前面临的共同课题。而对于人工智能领域如何“扬善除恶”，国际社会也正在抓紧立法立规。

　　去年8月15日，我国国家网信办、发改委等多部门共同制定的《生成式人工智能服务管理暂行办法》（下称《暂行办法》）正式施行。这是我国现阶段促进生成式人工智能健康发展和规范应用的重要法规。这既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。国际上，今年6月，欧盟制定的《人工智能法案》开始生效。

　　但面对人工智能迅猛发展带来的各种未知挑战，相关的立法立规工作还需不断完善。在《暂行办法》施行之后，多位全国人大代表在今年全国人大会议期间又提出了关于制定人工智能法的议案。议案认为，《暂行办法》仍不能较全面涵盖人工智能所引发的各类问题，不足以做好与现行法律的衔接工作，建议对人工智能发展和崛起所导致的各类法律问题开展立法研究，适时制定人工智能法。

　　今年5月全国人大常委会公布的2024年度立法工作计划将“人工智能健康发展等方面的立法项目”列入预备审议项目。同月国务院公布的2024年度立法工作计划中，也明确了预备提请全国人大常委会审议人工智能法草案。这都表明我国正在加快人工智能领域的立法进程。

　　相关立法应该有引导人工智能“向善”的基本要求。以人工智能发展要符合伦理为基本要求，以加大对公众的人格权、财产权等的保护为实现途径。

　　我国早在2021年9月印发的《新一代人工智能伦理规范》中就明确提出，人工智能特定活动应遵守的伦理规范包括管理规范、研发规范、供应规范和使用规范，从而建构起人工智能全生命周期的伦理道德体系。其后又有《关于加强科技伦理治理的意见》及上述《暂行办法》等相继发布，其中都将伦理作为重要一环。

　　伦理方面强有力约束的缺失，会导致人工智能应用方面侵犯人格权、财产权。

　　大型生成式人工智能模型主要依据既有文本、图像、音频、视频等生成输出产品，如果这些输出的信息是虚假的，就可能导致对他人名誉权等人格权的侵害。伴随着这些侵害又可能带来对财产权的侵害。今年4月，北京互联网法院一审开庭宣判全国首例AI生成声音人格权侵权案，其中就既有对人格权的侵害，也有对包括收益权在内的财产权的侵害。此案一审判决已经发生法律效力。

　　总之，人工智能被广泛应用的时代正在到来，而人工智能技术和应用在治理层面遇到的挑战也正日益加剧，相关领域的立法需求日益紧迫。立法应该将人们普遍关心的伦理规范作为总体要求，对已经暴露出的侵犯人格权、财产权等方面加强规范，从而进一步体现出鼓励人工智能积极向善的立法方向。