2024年全球加快推进人工智能监管

2024年被广泛认为是人工智能的元年，人工智能的研究与应用如雨后春笋般涌现，与之伴随的是全球正加快推进人工智能监管。

2024年人工智能的新技术不断突破、新业态持续涌现、新应用加快拓展，已成为新一轮科技革命和产业变革的重要驱动力量。

在医疗领域，人工智能开始参与“听诊”与“问诊”，提前收集患者症状，形成初步病历，协助完成初步诊断建议和分析，推荐治疗方案。

在艺术创作领域，人工智能作为创作工具，打破了艺术创作的单一性与局限性，赋予了创作过程更高的自由度与无限可能性。从音乐、绘画到电影，不同门类的艺术家纷纷开始学习和利用人工智能进行艺术探索。在音乐方面，前不久，人工智能音乐平台Suno发布的V4版本再度引发关注与讨论，用户可以一键生成音质更高、时长更长的音乐，创作出具有独特风格的音乐作品。在影视方面，今年年初，OpenAI发布文生视频模型Sora，用户能够生成分辨率最高达1080p、时长最长达20秒，且具有宽屏、竖屏或方形宽高比的视频。

在文化领域，虚实结合的人工智能技术，可以让人瞬间穿越千年。裸眼3D、全息投影、VR虚拟、体感互动……时间和空间的限制被相继打破，为文化的交流与传播带来了无限惊喜。比如，国家自然博物馆打造的数字人及AR导览项目，游客通过手机、平板或VR眼镜等进入互动界面，可以选择路线、数字领航员开启探索之旅，除了常规展品，还可以看到AR特效展品。

在日常生活中，人工智能应用更是随处可见，智能家居、导航等领域均有运用。

与此同时，随着生成式人工智能的快速发展，其在法律、安全、就业、道德伦理等方面也面临着一系列新课题。

2024年初，大量由人工智能生成的泰勒虚假色情、血腥照片在多个社交平台疯传，浏览量超过千万，引发社交媒体震动。实际上这不是泰勒第一次成为人工智能“深度伪造”的受害者。就在不久前，有人使用人工智能技术仿造了她的声音和形象来为商品进行推广，让消费者误以为这是泰勒代言的商品。

而在韩国，随着人工智能技术的不断发展，使用“深伪”技术制作虚假视频更加方便。据韩国媒体报道，把女性面部合成到不雅视频中并大肆传播的“深度伪造性犯罪”，已在韩国女性中引起极大恐慌。

不仅如此，生成式人工智能也存在损害数据隐私、侵犯版权等方面的隐忧。人工智能科技公司数据采集过程的合法合规问题突出。

美国知名作家尼古拉斯·巴斯贝恩和尼古拉斯·盖奇向纽约曼哈顿联邦地区法院提起集体诉讼，指控美国微软公司和美国人工智能公司“开放人工智能研究中心”（OpenAI）侵犯了他们以及其他作家的版权。他们在诉讼中称，微软和OpenAI使用他们书中的信息来训练包括聊天机器人ChatGPT在内的人工智能产品，这两家公司的行为构成“对版权作品的恶意大规模窃取”。诉讼称，微软和OpenAI既没有获得许可，也没有给予赔偿，“窃取”作家们的作品，用于建立价值数十亿美元的商业，这是令人无法容忍的。

今年中国广州互联网法院作出判决的全球AIGC侵权第一案，北京互联网法院审理的国内首例“AI文生图”著作权的侵权案以及前不久全国首例人工智能生成声音人格权侵权案，这些案件都在生成式人工智能领域、知识产权以及传统意义上的人身权等问题产生了紧密的关联。

生成式人工智能如此迅猛的发展带来新技术突破和产业变革的同时，其引发的安全风险也对监管和治理提出新要求。这一年，世界范围内，各主要经济体酝酿多年的人工智能立法实践陆续进入成熟期。

5月21日，欧盟理事会正式批准《人工智能法案》。外界普遍认为，作为全球首部全面的人工智能法规，《人工智能法案》实施后将对全球人工智能产业链产生深远影响。总体上，《人工智能法案》在适用范围、人工智能系统风险分级管理、通用人工智能模型管理、执法与处罚等方面，为整个人工智能产业链上的相关方提供了一个合规义务框架。

英国科学、创新和技术部于2月向英国议会提交《人工智能监管的创新方法：政府的回应》，明确其目标是成为人工智能安全开发和部署的全球领导者。7月11日，美国国会通过《内容来源保护和防止编辑和深度伪造媒体完整性法案》，旨在解决人工智能生成内容的“深度伪造”泛滥问题。法案正在等待总统签署成为正式法律，尚未正式生效，但已经获得多方支持。法国数据监管机构法国国家信息与自由委员会7月12日发布首批关于人工智能系统发展的建议，详细说明欧盟《人工智能法案》与《通用数据保护条例》如何相互作用。

作为负责任的人工智能大国，中国在大力推进人工智能创新发展的同时，积极致力于为国际社会提供更多公共产品，以开放姿态开展人工智能国际交流合作，为全球人工智能发展和治理作出积极探索，贡献了建设性思路和方案。

7月，2024世界人工智能大会暨人工智能全球治理高级别会议在中国上海举办。会议通过的《人工智能全球治理上海宣言》倡导建立全球范围内的人工智能治理机制，支持联合国发挥主渠道作用，欢迎加强南北合作和南南合作，提升发展中国家的代表性和发言权；鼓励国际组织、企业、研究机构、社会组织和个人等多元主体积极发挥与自身角色相匹配的作用，参与人工智能治理体系的构建和实施。

此外，中国和美国、法国等建立高层级对话机制。2024年5月，中美人工智能政府间对话首次会议成功举行。2024年5月7日，中法两国发布《中华人民共和国和法兰西共和国关于人工智能和全球治理的联合声明》。在今年召开的第78届联合国大会上，143个联合国会员国以协商一致方式通过了中方主提的“加强人工智能能力建设国际合作”决议。这是全球首个聚焦人工智能能力建设的共识性文件。

有分析指出，2024年全球人工智能治理的发展场景，展示了各国在应对技术进步与伦理挑战的共同努力。随着善用人工智能系统的共识不断扩大，社会各界需继续推进相关法律法规的制定。

来源：法治日报