联合国权威发布：《为人类治理人工智能》

2023年12月，联合国人工智能高级别咨询机构发布《为人类治理人工智能》的临时报告。首先，该报告确定了利用人工智能有助于为人类带来潜在利益的机遇和推动因素。其次，强调了人工智能在现阶段和可预见的未来所带来的风险和挑战。此外，报告认为解决全球人工智能治理赤字问题需要明确的原则以及新的职能和制度安排，以应对当前的挑战。报告最后提出了初步建议和下一步措施，这些建议和措施将在2024年8月的最终报告中详细阐述。元战略编译该报告重要内容，为人工智能的国际治理问题提供借鉴。

一、全球人工智能治理赤字

尽管人工智能正在改变我们的世界，但其发展和回报目前集中在少数国家的少数私营部门行为者身上，其危害也分布不均。所有成员国应平等参与人工智能的全球治理，以提供资源，使代表和监督机制具有广泛的包容性，确保对危害负责，并确保地缘政治竞争不会推动不负责任的人工智能或抑制负责任治理。除了公平、准入和预防伤害等方面的考虑之外，人工智能技术本身的性质也要求必须采取全球性的措施。人工智能带来了明显的全球性挑战和机遇，联合国在应对这些挑战和机遇方面具有得天独厚的优势，可将不断演变的倡议拼凑成一个连贯、可互操作的整体，以会员国商定的普遍价值观为基础，适应各种情况。

二、人工智能的机遇和推动因素

（一）利用人工智能造福人类的关键因素

人工智能的机遇来得正是时候，特别是对全球南方国家而言。在更大的数字和发展鸿沟中潜伏着“人工智能鸿沟”，准入和收益必须齐头并进。人工智能能力落后地区的企业家需要也理应拥有创造自己的人工智能解决方案的能力。这需要国家在人才、数据和计算资源方面的投资，以及国家监管和采购能力。在国内努力的同时，国际援助和合作也应得到补充，不仅是政府之间的合作，还有私营部门参与者之间的合作。团结科学家解决社会挑战，可以成为利用人工智能潜力造福人类的关键推动因素。数据和模型的开源与共享可在传播人工智能的益处以及跨国界开发有益的数据和人工智能价值链方面发挥重要作用。人工智能开发、部署和使用的推动因素需要与“护栏”相平衡，以管理对社会和社区的影响。一些人工智能的发展依赖于全球南方廉价和可剥削的劳动力。即使在全球北方，也存在着与重视艺术表达、知识产权和人类劳动尊严有关的问题。如果要避免国家内部和国家之间的“人工智能鸿沟”，就需要公平地获取这些技术和相关技能，以充分利用它们。

（二）治理是关键的推动因素

可以而且应该部署人工智能，以支持可持续发展目标。但这样做不能仅仅依靠目前的市场做法，也不应依靠少数技术公司的仁慈。任何治理框架都应在全球范围内形成激励机制，以促进这些更大、更具包容性的目标，并帮助确定和解决权衡问题。要确保人工智能的部署是为了共同利益，并确保其惠益得到公平分配，就需要政府和政府间采取行动，以创新方式激励私营部门、学术界和民间社会的参与。更持久的解决方案是以联合的方式获取数据、计算和人才等基本要素，为人工智能提供动力，并在需要时提供信息与通信技术基础设施和电力。

三、风险与挑战

（一）人工智能的风险

一些人工智能风险源于这些系统的技术限制。这些风险包括有害偏差和各种信息危害，如缺乏准确性和“幻觉”或混淆，这些都是生成式人工智能的已知问题；其他风险与其说是人工智能的产物，不如说是人类的产物，深度伪造和敌对信息宣传只是为恶意目的部署技术的最新例子，会对社会信任和民主辩论构成严重威胁；还有一些则与人机互动有关。在个人层面，这包括对人工智能系统的过度信任（自动化偏见）和随着时间推移可能出现的技能下降。在社会层面，它包括如果大量劳动力被取代对劳动力市场的影响，或如果知识产权得不到保护对创造力的影响。随着越来越多的互动以人工智能为媒介，我们人类相互关系的社会转变也不能排除。这些变化可能会对家庭生活和身心健康造成不可预测的后果。另一类风险涉及更大的安全问题。有可靠证据表明，战场上越来越多地使用具有自主功能的人工智能系统。一场新的军备竞赛很可能正在进行，从而对全球稳定和武装冲突的门槛造成影响。机器自主瞄准和伤害人类是一条不可逾越的“红线”。在许多司法管辖区，执法部门使用人工智能，特别是实时生物识别监控，已被确定为不可接受的风险，侵犯了隐私权。人们还对无法控制或无法控制的人工智能表示担忧，包括它可能对人类的生存构成威胁（尽管人们对是否以及如何评估这种威胁还存在争议）。

（二）亟待解决的挑战

许多人工智能系统是不透明的，或是因为其固有的复杂性，或是因为其内部运作的商业秘密。研究人员和管理机构很难获取信息，也很难全面查询专有数据集、模型和系统。此外，人工智能科学还处于早期阶段，我们仍不完全了解先进的人工智能系统是如何运作的。这种缺乏透明度、获取途径、计算资源和其他资源以及理解的情况，阻碍了对风险来源的识别，以及管理这些风险（或补偿损害）的责任所在。尽管人工智能遍及全球，但治理仍然是地域性和分散的。摸清、避免和减轻风险将需要自我监管、国家监管以及国际治理努力，不应存在问责缺陷。除了技术和政治障碍，这些挑战还存在于更广泛的社会背景中。数字技术正在影响社会的“软件”，对整个治理构成挑战。此外，人工智能的人力和环境成本——硬件和软件必须在其整个生命周期中加以考虑，因为人的生命和我们的环境是所有人工智能集成流程的起点和终点。除滥用外，我们还注意到对错失用途的反面担忧，即由于过度谨慎而未能利用和分享人工智能技术的好处。

四、人工智能的国际治理

（一）人工智能治理格局

今天，关于人工智能治理的指南、框架和原则并不缺乏。私营部门和民间社会以及国家、区域和多边机构都起草了文件，产生了不同影响。在技术方面，治理工作的重点是数据、模型、基准或评估。应用也是重点，特别是在现有部门治理安排的情况下，例如在卫生或军民两用技术方面。现有的人工智能治理工作在措辞上有相似之处，如公平、问责和透明的重要性。然而，无论是在管辖区之间的互操作性方面，还是在管辖区内的合规激励措施方面，在执行时都没有全球统一的做法。与此同时，人工智能及其应用的技术进步不断加快，扩大了开发人工智能的技术公司、在各部门和社会空间使用人工智能的公司和其他组织以及监管其开发、部署和使用的人员之间在理解和能力方面的差距。

（二）国际人工智能治理的原则和职责

联合国人工智能高级别咨询机构的任务是就人工智能的国际治理提出备选方案，该机构审查了具有技术层面的现有治理机构所履行的职能。人工智能所涉及的利益攸关方和潜在应用范围及其在各种情况下的使用，使得任何现有治理模式都不适合完全照搬。不过，可以从一些实体的实例中汲取经验教训。本临时报告中提出的初步建议，不是在现阶段提出任何单一的人工智能治理模式，而是侧重于提出指导组建新的全球人工智能治理机构的原则，以及这些机构需要履行的广泛职能。

（三）初步建议

指导原则

指导原则1：人工智能的管理应包容各方，由所有人管理并造福所有人

充分发挥人工智能的潜力，使人们广泛参与其开发、部署和使用，对于推动可持续地解决全球挑战至关重要。需要采取平权和纠正措施，包括获取和能力建设，以解决某些社群，例如妇女和不同性别的行为者，在技术开发、部署、使用和治理方面受到历史性和结构性排斥的问题，并将数字鸿沟转化为包容性的数字机遇。

指导原则2：人工智能的管理必须符合公众利益

人工智能的管理必须符合更广泛的公共利益。需要制定更广泛的框架，对构建、部署和控制人工智能的公司和其他组织，以及在人工智能生命周期内跨经济和社会多个部门使用人工智能的公司和其他组织进行问责。治理应扩大不同利益相关者的代表性，并更加明确地划分公共和私营部门行为者之间的责任。为公众利益而治理还意味着对公共技术、基础设施和公职人员能力的投资。

指导原则3：人工智能治理应与数据治理和促进数据共享同步进行

数据对许多主要的人工智能系统至关重要，符合公共利益的数据治理和管理不能脱离人工智能治理的其他组成部分。监管框架和技术-法律安排，在符合适用法律的情况下保护个人数据的隐私和安全，同时积极促进这些数据的使用，将是对符合地方或区域法律的人工智能治理安排的重要补充。还应鼓励发展公共数据公域，特别关注对帮助解决气候变化、公共卫生、经济发展、能力建设和危机应对等社会挑战至关重要的公共数据，供多个利益攸关方使用。

指导原则4：人工智能治理必须具有普遍性、网络化并植根于适应性的多利益攸关方合作

任何人工智能治理工作都应优先考虑不同成员国和利益攸关方的普遍接受。这是以避免问责空白的方式协调新出现的人工智能法规的关键。有效治理应利用现有机构，这些机构必须根据人工智能的影响审查其现有职能。需要新的横向协调和监督职能，这些职能应赋予新的组织结构。新的和现有的机构可以形成治理结构网络中的节点。人工智能治理框架可以借鉴世界各地的最佳做法和专业知识。它还必须了解推动人工智能发展、部署和使用的不同文化意识形态。需要在这一治理框架内建立创新结构，让私营部门、学术界和民间社会与政府一起参与进来。

指导原则5：人工智能治理应立足于《联合国宪章》《国际人权法》以及其他商定的国际承诺

联合国可发挥独特的规范性和体制性作用。一些联合国机构已经就人工智能对从教育到军备控制等领域的影响开展了重要工作。《全球数字契约》和《数字合作路线图》是多方利益攸关方审议包括人工智能在内的全球技术治理框架的范例。联合国会员国的强力参与、联合国机构的赋权和不同利益攸关方的参与，对于全球人工智能治理对策的赋权和资源配置至关重要。

机构职能

机构职能1：定期评估人工智能的未来方向和影响

与政府间气候变化专门委员会类似，专门的人工智能知识和研究职能将包括一个独立的、由专家主导的过程，例如每六个月发布一次科学的、基于证据的见解，以便决策者了解人工智能发展、部署和使用的未来轨迹。这应包括与公司就为研究和前景扫描目的获取信息做出安排。这一职能将帮助公众更好地了解人工智能，并推动国际社会就人工智能的发展速度和影响达成共识。它将定期编制共同风险评估报告，并制定衡量人工智能对环境和其他方面影响的标准。该咨询机构在某种程度上是专家主导进程的开端，它需要适当的资源和制度化。

机构职能2：通过在世界范围内（联合国）认可的全球人工智能治理框架，加强世界各地新出现的治理工作的互操作性及其在国际规范中的基础

人工智能治理安排应具有跨管辖区的互操作性，并以国际规范为基础。它们应利用现有的联合国组织和论坛，加强各管辖区监管措施的互操作性。人工智能治理工作也可通过一个机构来协调，该机构负责统一政策、建立共识、推广最佳做法、支持实施和促进同行学习。全球人工智能治理框架可支持决策并指导实施，以避免公共和私营部门、地区和国家之间出现人工智能鸿沟和治理差距，并明确各组织应据此运作的原则和规范。作为该框架的一部分，应特别关注私营和公共部门的能力建设，以及在全世界传播知识和提高认识。私营和公共部门的人工智能系统开发商进行的人权影响评估等最佳做法可以通过这样一个框架传播，这可能需要一项国际协定。

机构职能3：制定和协调标准、安全和风险管理框架

新兴的人工智能安全机构可以联网，以减少相互竞争的框架、各管辖区标准化做法各自为政以及全球拼凑、差距过大的风险。不过，应注意不要过分强调技术上的互操作性，而忽视其他功能和规范方面的平行发展。虽然人们对社会技术标准有了更多的认识，但还需要更多的研究、民间社会的积极参与和跨学科的合作来制定这些标准。.此外，可以确定新的全球标准和指标，以衡量和跟踪人工智能对环境的影响及其能源和自然资源消耗（如电力和水），从而指导人工智能的发展，帮助实现与保护环境有关的可持续发展目标。

机构职能4：通过国际多方利益攸关方合作，促进人工智能的开发、部署和使用，以促进经济和社会效益

现有的法律、金融和技术安排需要不断发展，以应对未来复杂的自适应人工智能系统，这将需要考虑从反洗钱金融行动特别工作组、环球银行间金融电信协会等论坛和同等机制中吸取的经验教训。此外，对于大多数国家和地区而言，迫切需要发展公共部门的能力，以促进负责任地、有益地使用人工智能，并参与国际多方利益相关者合作框架，以开发人工智能的推动因素。

机构功能5：促进人才培养方面的国际合作，获取计算基础设施，建立多样化的高质量数据集，负责任地共享开放源模型，以及为可持续发展目标提供人工智能支持的公共产品

需要一种（或多种）新的机制来促进数据、计算和人才的获取，以便通过升级的本地价值链，开发、部署和使用人工智能系统来实现可持续发展目标，使独立的学术研究人员、社会企业家和民间社会能够获取建立自己的模型以及进行研究和评估所需的基础设施和数据集。这可能需要网络化的资源和努力，以建立共同的数据集和数据公共资源，用于公共利益、负责任地共享开源模型、计算资源以及大规模教育和培训。

机构职能6：监控风险、报告事件、协调应急响应

必须在全球层面建立相关机构，以监测、报告和快速应对系统脆弱性和对国际稳定的破坏。例如，一个技术审慎模式，类似于用于提高中央银行复原力的宏观审慎框架，并汇集了在国家一级制定的技术审慎框架，可能有助于以类似方式防范人工智能对全球稳定造成的风险。这种模式必须以人权原则为基础。报告框架可借鉴原子能机构在核安全与核安保相互保证方面的现有做法，以及世卫组织在疾病监测方面的现有做法。

机构职能7：基于准则的遵守和问责

我们不能排除需要在全球级别制定具有法律约束力的规范并加以执行。缔结一项人工智能条约的区域努力已经开始，致命的自主武器问题正在常规武器条约的框架内审议。不具约束力的准则也可以发挥重要作用，无论是单独还是与具有约束力的准则相结合。国际治理工作必须在目标和进程方面表现出坚决的透明度，并尽一切努力赢得公民利益攸关方的信任，包括防止利益冲突。

免责声明：本文转自元战略，原作者Allen Wang。文章内容系原作者个人观点，本公众号编译/转载仅为分享、传达不同观点，如有任何异议，欢迎联系我们！

推荐阅读

转自丨元战略

编辑丨郑实

研究所简介

国际技术经济研究所（IITE）成立于1985年11月，是隶属于国务院发展研究中心的非营利性研究机构，主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题，跟踪和分析世界科技、经济发展态势，为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号，致力于向公众传递前沿技术资讯和科技创新洞见。

地址：北京市海淀区小南庄20号楼A座

电话：010-82635522

微信：iite_er