【好文推荐】人工智能治理的中国声音与智慧

谭知行、徐恪（中关村实验室）

1 背景

近年来，以生成式人工智能为代表的人工智能技术迅速发展，在智能问答、视频生成等领域取得了突破进展，正深刻改变着人类社会生活，被认为是形成新质生产力的重要引擎［1］.在制造行业，人工智能技术能够用于生产线的自动化控制，提高生产效率和产品质量，降低生产成本；在医疗行业，人工智能技术能够用于医学影像诊断、疾病预测、药物研发等方面，提高诊断准确率和治疗效果，降低误诊率和治疗成本；在交通行业，人工智能技术能够用于智能交通管理、自动驾驶、车联网等方面，提高道路通行效率和交通安全，降低交通事故率和交通拥堵.

人工智能在给经济社会发展带来机遇的同时，也伴生了一系列安全风险，带来了难以预知的复杂挑战［2］.人工智能可能被用于构建复杂的社交工程攻击，助力黑客实施网络钓鱼和伪装诈骗，并加速恶意软件传播［3］；人工智能强大的生成能力使制作虚假新闻、网络诈骗谣言等信息更加简单化、自动化与个性化，颠覆人们“眼见为实”的传统观念，严重挑战社会稳定和国家安全［4］；人工智能技术的应用可能导致歧视、不平等，威胁文化和社会多样性，带来“智能鸿沟”［5］；人工智能在通用性和自主性方面的快速进步带来了对人工智能失控的广泛担忧.

面对人工智能可能为人类带来的巨大助益以及风险挑战，如何有效治理人工智能是全世界共同面临的课题.2023年10月18日，习近平主席在“第三届‘一带一路’国际合作高峰论坛”开幕式上亲自宣布中国提出《全球人工智能治理倡议》［6］(以下简称《倡议》).《倡议》是中国积极践行人类命运共同体理念的重要举措，是落实全球发展倡议、全球安全倡议、全球文明倡议的具体行动，也是中国为促进人工智能安全发展应用作出的庄严承诺.

2《倡议》的主要内容

《倡议》系统阐述了人工智能治理的中国方案，为各方普遍关切的人工智能发展与治理问题的国际讨论和规则制定提供了蓝本.《倡议》按照人工智能发展、安全、治理3个方面，提出11条具体倡议事项.其中发展方面的倡议4条，强调以人为本、尊重主权、智能向善、平等互利；安全方面的倡议3条，强调安全可控、隐私保护、公平和非歧视；治理方面的倡议4条，强调伦理先行、协同共治、智能治理、弥合数字鸿沟.《倡议》倡导构建开放、公正、有效的治理机制，协力共同促进人工智能治理，使人工智能技术造福于人类.

目前，人工智能领域已经从散发的技术竞争走向有组织的国际竞争，世界各国、社会组织都在抢抓全球人工智能规则制定，纷纷提出各自的人工智能治理主张，2019年5月22日，经济合作与发展组织提出《人工智能原则》，随后于2019年6月9日被二十国集团采纳；2021年4月21日，欧盟委员会提出《人工智能法案》草案，迅速成为国际的关注重点；2021年11月23日，联合国教科文组织发布了《人工智能伦理问题建议书》，并得到了联合国193个会员国的通过；2023年5月20日，七国集团宣布建立“广岛人工智能进程”等.

中国在人工智能领域具有良好的发展基础与治理经验.2019年6月17日，国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》；2021年12月14日，中国向联合国大会提交了《中国关于规范人工智能军事应用的立场文件》；2022年11月16日，中国向联合国大会提交了《中国关于加强人工智能伦理治理的立场文件》；2022年11月25日，国家网信办、工信部、公安部联合发布了《互联网信息服务深度合成管理规定》；2023年5月24日，中国就制定“全球数字契约”向联合国提交了《中国关于全球数字治理有关问题的立场》；2023年7月13日，国家网信办等七部委联合发布了《生成式人工智能服务管理暂行办法》.《倡议》总结与展示了中国在人工智能治理上的智慧与理念，彰显了负责任的大国担当，体现在以下3个方面：

一是倡导“以人为本”与“智能向善”，指引人工智能发展道路.人工智能作为引领新一轮科技革命和产业变革的重要驱动力，既可能带来生产力的极大提高，增进人类福祉，也可能被滥用甚至恶用，威胁人类生存.随着人工智能技术边界的不断拓展，必须及时确定人工智能的未来发展道路，防止人工智能成为“脱缰野马”.《倡议》强调，“发展人工智能应坚持‘以人为本’理念，以增进人类共同福祉为目标，以保障社会安全、尊重人类权益为前提，确保人工智能始终朝着有利于人类文明进步的方向发展”；“发展人工智能应坚持‘智能向善’的宗旨，遵守适用的国际法，符合和平、发展、公平、正义、民主、自由的全人类共同价值，共同防范和打击恐怖主义、极端势力和跨国有组织犯罪集团对人工智能技术的恶用滥用”.“以人为本”理念和“智能向善”宗旨此前已在《中国关于加强人工智能伦理治理的立场文件》以及《中国关于全球数字治理有关问题的立场》中提出，是中国在人工智能发展方面的一贯倡导.“以人为本”理念勾勒出人工智能的发展方向，“智能向善”宗旨定义了人工智能的基本价值取向，二者也是全球对人工智能发展的多方共识与普遍期待.

二是倡导“尊重主权”与“平等互利”，明确人工智能发展原则.主权原则是现代国际关系准则的基石，严格遵守他国法律，接受他国法律管辖是实现相互尊重、平等互利的基础.《倡议》提出“面向他国提供人工智能产品和服务时，应尊重他国主权，严格遵守他国法律，接受他国法律管辖”，是此前发布的《生成式人工智能服务管理暂行办法》中“提供和使用生成式人工智能服务，应当遵守法律、行政法规”思想的进一步深化.面对世界各国在大小、强弱、社会制度、文化价值观等方面存在的广泛差异，以及在人工智能发展上存在的不均衡现象，坚持平等互利、开放包容而非“小院高墙”才能使人工智能惠及全世界.为此，《倡议》强调“发展人工智能应坚持相互尊重、平等互利的原则，各国无论大小、强弱，无论社会制度如何，都有平等发展和利用人工智能的权利.鼓励全球共同推动人工智能健康发展，共享人工智能知识成果，开源人工智能技术.反对以意识形态划线或构建排他性集团，恶意阻挠他国人工智能发展.反对利用技术垄断和单边强制措施制造发展壁垒，恶意阻断全球人工智能供应链”，符合广大发展中国家的共同心愿.

三是倡导“伦理先行”与“智能治理”，绘制人工智能治理蓝图.人工智能是快速变化的技术，带来了诸多治理上的挑战.面对新兴技术快速发展的挑战，中国一贯倡导在科技活动中采用“伦理先行”理念.2022年3月20日，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，明确了加强源头治理、注重预防、实现负责任创新的治理要求.《中国关于加强人工智能伦理治理的立场文件》中提出“各国政府应坚持伦理先行，建立并完善人工智能伦理准则、规范及问责机制，明确人工智能相关主体的职责和权力边界，充分尊重并保障各群体合法权益，及时回应国内和国际相关伦理关切”，强调了“伦理先行”在人工智能技术监管上的重要性.《倡议》进一步提出“形成人工智能伦理指南，建立科技伦理审查和监管制度”，向世界分享了中国在科技伦理治理上的实践方案.在技术动态发展的背景下，人工智能的全球治理需要把握人工智能技术复杂性、高频创新性和战略敏感性的特点，充分发挥人工智能在风险防范、技术治理中的能力.为此，《倡议》提出“积极发展用于人工智能治理的相关技术开发与应用，支持以人工智能技术防范人工智能风险，提高人工智能治理的技术能力”，提倡以技术应对技术，以智能应对智能.

2.2 凝聚国际共识，防范化解人工智能的安全风险

当前生成式人工智能“大模型”为代表的人工智能技术在算力进步的基础上，通过扩大模型参数的规模，有效地利用了海量的数据资源，实现了人工智能应用的突破，甚至出现了“能力涌现”现象.但人工智能的快速发展也带来了一系列疑问与担忧：具有高度智能的“超级”人工智能将如何处于人类的监管控制之下；人工智能的应用是否会侵犯用户的个人信息和隐私；人工智能的使用是否会导致歧视和不公平.针对人工智能的安全性、隐私性、公平性等方面，当前国际上已具备了共识，如经济合作与发展组织《人工智能原则》、联合国教科文组织《人工智能伦理问题建议书》、欧盟《人工智能法案》、美国政府《人工智能权利法案的蓝图》、日本政府《以人为本的人工智能社会原则》等文件均强调确保人工智能安全、保护个人隐私以及防止偏见歧视的重要性.《倡议》在安全方面广泛凝聚了国际共识，提出了3个具体倡议：

一是坚持“底线思维”，确保人工智能安全可控.《倡议》秉持了统筹发展与安全的原则，强调“推动建立风险等级测试评估体系，实施敏捷治理，分类分级管理，快速有效响应.研发主体不断提高人工智能可解释性和可预测性，提升数据真实性和准确性，确保人工智能始终处于人类控制之下，打造可审核、可监督、可追溯、可信赖的人工智能技术”，既通过建立风险等级测试评估体系坚守安全底线，又通过敏捷治理、分类分级管理、快速有效响应方式应对人工智能发展不确定性的挑战.在技术上，注重促进人工智能在可解释性、可预测性、数据真实性、准确性等技术层面上的进步，并且通过打造可审核、可监督、可追溯、可信赖的人工智能技术，逐步化解人工智能的安全挑战.

二是坚持“依法监管”，规范人工智能研发应用.面对当前人工智能在能力上的飞速进步与内部机理机制理解上的不足，人工智能的安全性已成为社会各界争论的焦点.对于人工智能的安全性，不仅需要在理论技术上予以保障，也需要进一步在规章制度层面上予以明确与规范.为此，《倡议》提出“逐步建立健全法律和规章制度，保障人工智能研发和应用中的个人隐私与数据安全，反对窃取、篡改、泄露和其他非法收集利用个人信息的行为”.近年来，随着《数据安全法》《个人信息保护法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律法规的出台，中国已成为人工智能监管的先驱国家之一，正为其他国家规范人工智能研发应用提供中国蓝本.

三是坚持“促进公平”，增进人工智能公众信任.近年来，“大数据杀熟”已经成为社会公众关切的热点话题.人工智能在大数据利用方面远超传统算法，但存在内嵌偏见的可能，如不进行规范将潜在导致歧视、不平等，进而影响公众对使用人工智能的信任.为此，《倡议》明确“坚持公平性和非歧视性原则，避免在数据获取、算法设计、技术开发、产品研发与应用过程中，产生针对不同或特定民族、信仰、国别、性别等偏见和歧视”.“公平和非歧视”原则此前已在《生成式人工智能服务管理暂行办法》中提出，只有充分考虑民族、信仰、国别、性别等方面差异和具体需求，确保人工智能的惠益人人可得，才能增进人工智能的安全发展.

2.3 呼吁协力共促，构建开放的人工智能治理机制

人工智能技术仍处于持续快速发展阶段，所导致的风险也不断变化.目前，各国的人工智能治理水平存在差异，治理机制不足以解决当前的技术问题，也缺乏对人工智能风险的全面深入认识，人工智能的治理是与全球各国息息相关的重大课题.《倡议》倡导协力共同促进人工智能治理，践行了共商共建共享的全球治理理念.

《倡议》提出“坚持广泛参与、协商一致、循序渐进的原则，密切跟踪技术发展形势，开展风险评估和政策沟通，分享最佳操作实践”，通过共商共建共享方式积极化解对人工智能认识不足的挑战.人工智能在发展应用过程中产生的诸多风险必然会与地理、文化、经济、生产力等因素相关联，因而全球各国、各地区的人工智能治理实践也必定会存在差异，更凸显出“求同存异”在全球人工智能治理中的重要性.为此，《倡议》进一步提出“通过对话与合作，在充分尊重各国政策和实践差异性基础上，推动更多利益攸关方积极参与，在国际人工智能治理领域形成广泛共识”，一方面推动形成尊重各方利益的人工智能治理广泛共识，另一方面汇集各个国家地区在人工智能治理中的良好实践，有效防范、应对人工智能风险，从而提升国际人工智能治理水平，持续推动全球人工智能治理进程.

《倡议》强调“增强发展中国家在人工智能全球治理中的代表性和发言权，确保各国人工智能发展与治理的权利平等、机会平等、规则平等，开展面向发展中国家的国际合作与援助，不断弥合智能鸿沟和治理能力差距.积极支持在联合国框架下讨论成立国际人工智能治理机构，协调国际人工智能发展、安全与治理重大问题”.人工智能大国间的合作很重要，发展中国家的能力建设也很重要，人工智能技术的发展不仅关乎一国或一地利益，更关乎全人类的共同利益.人工智能规则的制定过程中，应充分考虑人工智能发展程度欠缺的国家和地区，推动各个国家协同治理，弥补日益扩大的“智能鸿沟”.《倡议》主张在联合国框架下构建尊重各国的全球治理方案，有助于推动全球人工智能治理走向多边主义和公平正义，使各国都能在人工智能的发展进程中平等参与、平等受益，增进世界各国对于人类命运共同体理念的理解和认同，推动全球人工智能治理形成普适、系统、科学的治理框架.

《倡议》体现了中国在全球人工智能治理领域进一步参与并发挥引领作用的能力与信心.要将《倡议》作为推动人工智能发展、安全、治理工作的行动指南，积极推动落实《倡议》.中关村实验室作为国家网络信息领域的新型科研事业单位，认真践行《倡议》所提出的“多利益攸关方积极参与行动”，在人工智能安全治理领域正在开展以下工作：

一是全方位攻坚人工智能安全核心技术.从保障人工智能大规模安全应用的互联网体系结构等互联网核心技术［7］，到人工智能大模型的安全风险检测与治理等人工智能自身安全技术，中关村实验室正全面开展科研攻关活动，努力构建包括底层软硬件、人工智能模型、人工智能应用平台在内的全过程安全防护，形成对人工智能大模型的全链路、全方位安全监督，推进人工智能的安全性、可靠性、可控性.

二是积极开展人工智能安全标准化工作.中关村实验室高度重视人工智能安全方面的标准化工作，广泛凝聚企业、科研院校在人工智能安全方面的共识与最佳实践.中关村实验室作为主要编制单位已发布《生成式人工智能服务安全基本要求》技术文件，牵头制定《网络安全技术 生成式人工智能预训练和优化训练数据安全规范》国家标准，并重点参与《网络安全技术 生成式人工智能数据标注安全规范》《网络安全技术 生成式人工智能服务安全基本要求》两项国家标准的研制工作，助推国家生成式人工智能产业的规范化发展.

三是跟踪研判人工智能安全与治理趋势.面对生成式人工智能应用的爆发式增长，中关村实验室高度重视以生成式人工智能为代表的最新人工智能技术可能带来的安全风险与挑战，强化对人工智能安全风险的前瞻预防与约束引导.

中关村实验室正围绕生成式人工智能的安全威胁和防范技术开展战略研究，及时跟踪、全面把握、准确研判生成式人工智能技术现状、发展趋势、应用特点、作用模式、带来的安全威胁情况和可能的防范技术与规制等，力求为最大限度降低人工智能的风险作持续性贡献.

中关村实验室将继续以《倡议》为统领，为形成具有广泛共识的人工智能治理框架和标准规范努力.