对中美第一次人工智能政府间对话的感受

5月14日，中美举行了人工智能政府间对话首次会议。双方分别发布了自己的新闻通稿（见文后）。看了之后有几点感受：

1、这是一次“为了谈而谈”的对话，双方除了在人工智能对人类机遇和风险并存、需要全球治理之外，没有达成任何共识，也没有取得有形成果。这是在意料之中的。但作为拥有世界上主要的人工智能企业的两个大国，又处在双边关系紧张的非常时期，能够坐下来就人工智能治理和监管问题心平气和地谈，本身就已经是一次成功。

2、双方谈得还是不错的。美方说这次对话“坦诚且建设性”，中方也说相关“讨论深入、专业、建设性”。双方都觉得应该继续谈，所以美方说“确认在人工智能风险和安全问题上保持沟通渠道的开放是负责任管理竞争的重要部分”。中方说双方“重申继续致力于落实两国元首在旧金山达成的重要共识”。这也就是说，还会有第二次中美人工智能政府间对话。

3、尽管气氛还可以，但也不是没有交锋和火药味。比如，美国“提出了对人工智能被滥用的担忧”，还特别强调了“包括中国滥用人工智能的情况”。中方则“就美方在人工智能领域对华限制打压表明严正立场”。中方就人工智能芯片出口管制等提出交涉是可以预期的，也说明我们实际上可能是把人工智能治理和美国对中国人工智能产业的打压是挂起钩来的，你要谈治理可以，但必须把科技打压的问题也包括进来一块谈。美国所谓的中国“人工智能滥用”就比较耐人寻味，我感觉可能还是所谓“监控”、虚假信息、人权等美国政府针对中国经常“提出关切”的问题。这些话是无论如何都要说的，马上要大选了，要说给美国国内的观众们听。

4、双方看待人工智能对话的视角有一些不同。中国代表团这次牵头的是外交部美大司，而不是部内主责人工智能国际治理谈判的部门，科技部、发改委、网信办、工信部及中央外办是派人参团，这似乎说明我们更多是从中美关系这个角度来看待这个对话机制，将其作为类似气候变化的一个中美关系积极面、合作面，人工智能安全与治理的问题是一个相对辅助的角度。而美方是白宫国安会和国务院双牵头，带队的几乎已经是技术与国家安全领域最高级别的专业官员，例如国务院关键与新兴技术代理特使森特，是国务院所有人工智能相关事务的主管官员。这似乎说明，美国更倾向于把这次对话当成一个专业交流，聚焦在人工智能的安全风险和治理。

5、关于对人工智能全球治理的看法。中方坚持了《全球人工智能治理倡议》的核心主张，强调要发挥联合国主渠道作用，全球人工智能治理框架和标准规范要有“广泛共识”（不能是小圈子的、美国和盟友主导的）。美国则没有正面回应是不是支持在联合国框架下谈人工智能全球治理规则，甚至似乎不愿使用“规则”“规范”这类较为硬性的词语，只是承认构建“全球共识”是重要的。

6、过去几个月里参加了国内国外一些关于人工智能全球治理的研讨，包括一些中美智库联合举办的二轨对话。一个突出的感觉是：哪怕在专家智库层面，双方对人工智能安全问题和全球治理路径的认识还存在一些分歧。

美国专家最关注的似乎不是一些传统的人工智能安全风险，如伦理、虚假信息、版权、数据隐私侵犯，而是中国是否真正拿前沿大模型的“存在性风险”（existential risks，即它们可能被用于控制和制造核武器、化学和生物武器给人类带来的毁灭性风险）当回事，是否愿意和美国采取同样的标准管起来，防止扩散、预防风险。美国的企业可能更关心中国有无可能和美国在防止人工智能“存在性风险”方面达成共识、采取相似的治理模式，以及如果中国放手不管而美国加强监管，对美国公司国际竞争力带来的影响。

而多数中国专家则更关心中国在人工智能领域的发展权利，如美国出口管制和制裁的界限。一些专家认为，中国在人工智能监管方面已经走在美国前面，很多核心的监管措施，比如水印、预训练数据合法性、安全评估等，对中国企业来说早已是合规义务。但美国目前还没有监管人工智能的国会立法，白宫的行政令也因选举形势不明前途未知，目前实际仅依靠企业界的自愿承诺，这种情况下中国政府和企业对美国的监管意愿和能力实际是缺乏信心的。

7、对未来全球人工智能治理的机制，双方也存在一些不同看法。一些美国专家会问中国同行：中国的《全球人工智能治理倡议》说支持在联合国框架下讨论成立国际人工智能治理机构，这究竟代表中国未来只会认可联合国成立的组织，还是也对其他多边机制持开放态度？对中国来说，如果美国以英国发起的布莱切利进程作为基础，发起一个全球人工智能治理的谈判，中国会不会参加？中国专家还是更倾向于在联合国框架下谈人工智能全球治理，强调联合国的普遍性和广泛代表性，特别是考虑到广大的发展中国家的话语权问题。

8、作为一名曾经的国际法从业者，坦率地说我对近二十年来的全球治理是比较失望的。今年互联网已经诞生55年了，但联合国在网络安全和数据治理领域还没有达成任何国际条约，甚至连在打击跨国网络犯罪这种各国普遍支持的全球治理问题上，相关谈判也进展缓慢。网络空间和数据安全国际规则长期呈现碎片化状态，实际上阻碍了数字时代的全球化。这里面，地缘政治的考虑和过度政治化要负相当的责任，它们让主权国家陷入相互怀疑的怪圈。要么怀疑对方的任何国际主张背后都隐藏着某种不可告人的、意图损害自己利益的战略意图，或者怀疑对方通过彰显某些价值贬低和孤立自己。要么则给对方扣上各种帽子，对对方合理的国内监管措施指手画脚。这导致各国难以聚焦真正的全球治理问题和那些人类社会迫在眉睫的威胁。

9、人工智能国际治理规则的构建将是一个艰难的工作。各国在考虑本国主张时，一定会关照自身的国家利益和产业利益，再加上人工智能技术和应用本身还处在一个快速发展的阶段，全球规则的构建可能需要很长时间。特别是如果主要大国不能稍微减少一点“斗争思维”惯性和基于价值观、社会治理模式的偏见，想达成任何共识可能都会比较难。在平台的选择上，联合国当然是首选，但现实的确是想在联合国就一些复杂和重大问题达成共识正变得越来越难。我们支持联合国在人工智能全球治理上的主渠道地位，但对其他渠道也可以保持开放心态。毕竟，国际社会在联合国框架之外，通过召开外交大会等形式谈判制定新的国际条约也不是新鲜事，只要中国的声音和利益得到关照，我们大可不必执着于联合国。

针对人工智能安全风险的治理，应当明确区分“存在性风险”和“一般安全风险”。关于人工智能武器、人工智能用于核武、化物、生物武器的风险规制，可以放到国际军控已有的一些机制下去谈，也可以单独成立新的进程，并且大致应当适用现有的一般国际法。未来如果各国对这些“存在性风险”的认识足够强了，或者发生了类似“切尔诺贝利”这类极端风险事件，想必能够凝聚政治共识、达成一些硬性的治理规范。但现阶段，我们需要一些实实在在的研究，证明确实存在这种风险。

10、人工智能带来的伦理问题等“一般安全风险”，和产业利益联系更紧密一些，但由于各国立法的不同路径、企业的不同做法，恐怕很难形成足够的国家实践和法律确信，进而很快出现制定国际法的契机。无论是核武器还是气候变化的全球治理机制，感觉都很难套到人工智能上。因为人工智能这个领域还远远不像核能及气候变化那样是成熟的治理对象，且其实际执行高度依赖企业和私营部门的配合。

这让我想起了《联合国工商业与人权指导原则》（UNGP）的成功。工商业与人权的问题和人工智能一样具有政治上的敏感性，同时也都需要企业和私营部门配合实施，但在联合国秘书长特别代表John Ruggie的出色工作下，联合国协商一致通过了UNGP，确立了国家保护人权、公司尊重人权、受害者获得救济这工商业与人权三大支柱。尽管UNGP只是一个不具有国际法约束力的软法文件，但它获得联合国成员国普遍接受，其所倡导的那些核心原则已经被很多国家落实为国内法，或者被跨国公司纳入自己的人权政策和供应链合作协议。尽管它在防止和惩治跨国公司侵犯人权方面还远没有达到尽善尽美，但却实际在发生作用，并给未来任何国际法的形成奠定了一个坚实基础。人工智能的国际治理，似乎也可以借鉴这样的路径，软法先行，稳扎稳打，兼顾安全治理和产业利益，最终找到一条国际社会普遍接受的方案和路径。

中美关于首次人工智能政府间对话的新闻稿

白宫国安会发言人Adrienne Watson的声明：

总统特别助理兼技术与国家安全高级主任塔伦·查布拉和国务院关键与新兴技术代理特使塞斯·森特率领一个跨部门的美国代表团，该代表团包括来自白宫、国务院和商务部的官员，于2023年5月14日在瑞士日内瓦与中国代表团会面，中国代表团中包括外交部、科技部、国家发展和改革委员会、中央网信办、工业和信息化部以及中央外办的官员，会谈主题为讨论人工智能的风险与安全。此次会议是继2023年11月拜登总统与习近平主席在伍德赛德峰会后召开的，两位领导人在峰会上确认了召集美中两国政府专家讨论高级人工智能系统相关风险的必要性。

在这次坦诚且建设性的讨论中，美国和中国就各自的人工智能安全和风险管理方法交换了观点。美国重申了利用人工智能的好处对可持续发展的重要性，这一点对发展中国家和发达国家同样适用。美国强调了确保人工智能系统的安全、可靠和值得信赖是实现人工智能好处的关键，以及继续在这一基础上构建全球共识的重要性。美国还提出了对人工智能被滥用的担忧，包括中国滥用人工智能的情况。

美国确认在人工智能风险和安全问题上保持沟通渠道的开放是负责任管理竞争的重要部分。

英文链接：https://www.whitehouse.gov/briefing-room/statements-releases/2024/05/15/statement-from-nsc-spokesperson-adrienne-watson-on-the-u-s-prc-talks-on-ai-risk-and-safety-2/

中国外交部美大司公众号“宽广太平洋”消息

当地时间2024年5月14日，中美人工智能政府间对话首次会议在瑞士日内瓦举行。会议由中国外交部北美大洋洲司司长杨涛和美国国务院关键和新兴技术代理特使森特、白宫国安会技术和国家安全高级主任查布拉共同主持，中方科技部、发改委、国家网信办、工信部、中央外办以及美方白宫国安会、国务院、商务部派人参加。双方围绕人工智能科技风险、全球治理、各自关切的其他问题深入、专业、建设性地交换了意见。

双方介绍了各自对人工智能技术风险的看法和治理举措以及推动人工智能赋能经济社会发展采取的措施。中方强调人工智能技术是当前最受关注的新兴科技，中方始终坚持以人为本、智能向善理念，确保人工智能技术有益、安全、公平。中方支持加强人工智能全球治理，主张发挥联合国主渠道作用，愿同包括美方在内的国际社会加强沟通协调，形成具有广泛共识的全球人工智能治理框架和标准规范。中方就美方在人工智能领域对华限制打压表明严正立场。

双方均认识到人工智能技术发展既面临机遇也存在风险，重申继续致力于落实两国元首在旧金山达成的重要共识。

来源：