AI解读 | 以安全、创新和包容为原则的人工智能《首尔宣言》

（本文系由自研AI助理应用生成，经律师审校）

1. 发布机构：《首尔宣言》由代表澳大利亚、加拿大、欧盟、法国、德国、意大利、日本、韩国、新加坡、英国和美国的世界领导人共同参与发布。

2. 效力状态：《首尔宣言》虽非法律文本，但作为国际合作与对话的重要成果，其具有强烈的指导和倡导作用，为未来人工智能治理提供了重要的国际合作框架。

3. 适用对象：《首尔宣言》面向全球范围内开发、部署和使用人工智能技术的国家、组织以及企业，旨在引导全球人工智能的安全、创新和包容性发展。

4. 主要解决的法律问题：《首尔宣言》聚焦于人工智能技术带来的全新挑战，包括如何确保人工智能的安全性、如何促进人工智能技术的创新以及如何保证人工智能技术的发展成果能够惠及所有人，特别是在治理框架、国际合作和标准制定等方面提出了具体的行动指南。

5. 影响与意义：《首尔宣言》的发布，不仅加强了国际社会对人工智能技术发展方向的共识，也为各国在人工智能治理、安全研究、技术创新以及国际合作等方面提供了明确的指导原则。通过促进国际间的对话和合作，《首尔宣言》有望推动构建一个更加安全、创新和包容的全球人工智能生态系统，为解决全球性挑战、促进可持续发展目标的实现贡献力量。

1. 国际合作与对话的共同承诺

来自澳大利亚、加拿大、欧盟、法国、德国、意大利、日本、韩国、新加坡、英国和美国的世界领导人共同确认，面对人工智能前所未有的发展及其对经济和社会的影响，促进有关人工智能的国际合作与对话的重要性。这一承诺标志着国际社会对于共同应对人工智能带来的挑战和机遇的认识和决心。

2. 安全、创新和包容三位一体的目标

基于2023年11月在英国布莱切利庄园举行的人工智能安全峰会的成果，各国领导人承认人工智能的安全性、创新性和包容性是相互关联的目标，并强调在人工智能治理的国际讨论中，需要全面考虑这些优先事项，以应对人工智能的设计、开发、部署和使用所带来和可能带来的广泛机遇和挑战。

3. 人工智能治理框架的互操作性

各国领导人强调了人工智能治理框架之间的互操作性的重要性，这与基于风险的方法来确保人工智能的设计、开发、部署和使用的安全、可靠和可信赖密切相关。此外，各国将继续支持《广岛进程组织开发先进人工智能系统组织国际行为准则》的实施，并将特别注意《前沿人工智能安全承诺》。

4. 支持人工智能安全研究和最佳实践的共享

各国领导人支持创建或扩大人工智能安全研究所、研究项目和其他相关机构（包括监管机构），并努力通过加强这些组织之间的联系来促进安全研究方面的合作和分享最佳实践。

5. 加强国际合作以推动人工智能的安全、创新和包容

各国领导人呼吁加强国际合作，以推动人工智能的安全性、创新性和包容性，利用以人为本的人工智能来解决世界上最大的挑战，保护和促进民主价值观、法治、人权、基本自由和隐私权，弥合国家之间和国家内部的人工智能和数字鸿沟。

6. 促进安全、创新和包容的人工智能生态系统的政策和治理框架

各国领导人主张制定政策和治理框架，包括基于风险的方法，以促进安全、创新和包容的人工智能生态系统。这些框架的构建应促进人类创造力与开发和使用人工智能之间的良性循环，促进社会文化、语言和性别多样性，并在商业和公共可用的人工智能系统的整个生命周期内，促进技术和基础设施的环境可持续发展和使用。

7. 各利益相关方的积极合作

各国领导人申明，包括政府机构、私营部门、学术机构和社会各界人士在内的利益相关方积极合作对于培育安全、创新和包容的人工智能生态系统的重要性，以及跨界和跨学科合作的重要性。

8. 加强人工智能治理方面的国际合作

各国领导人申明，通过与联合国及其机构、七国集团、二十国集团、经济合作与发展组织、欧洲委员会和全球人工智能伙伴关系等其他国际倡议合作，加强人工智能治理方面的国际合作。

9. 未来的人工智能峰会和国际合作

各国领导人认识到人工智能峰会作为推动人工智能治理讨论的高级别论坛的价值，有利于人工智能的安全、创新和包容。各国领导人期待即将于法国举行的人工智能行动峰会，以及未来在相关领域开展密切的合作、对话和伙伴关系。

1. 建立风险评估机制

企业和组织应建立全面的风险评估机制，尤其是在部署和投放市场之前应当识别、评估并减轻人工智能全生命周期的风险和漏洞，确保人工智能系统的安全性、伦理性和合法性。

2. 提高透明度

发布与人工智能系统能力、局限性、适用性、潜在风险等相关内容的透明度报告，使部署人员和用户能够进行适当地使用，并且还应通过其他技术处理文件支持该透明度报告，从而有助于加强问责制。

3. 实施管理政策并采取安全措施

以基于风险的方法为基础，制定、披露并实施人工智能治理和风险管理相关政策，包括面向用户的隐私政策，以及面向企业内部的风险管理政策、程序和培训；同时采取技术和组织措施，保障人工智能全生命周期的物理安全、网络安全并防护内部威胁。

4. 遵循国际准则和最佳实践

及时关注并遵循《首尔宣言》和其他国际标准、指南、准则以及承诺，采用最佳实践来指导人工智能系统的设计、开发、部署和使用的各环节。

5. 加强跨界合作

与政府、学术界和其他私营部门合作，共享知识和资源，共同推动人工智能技术的安全、创新和包容性。

Seoul Declaration for safe, innovative and inclusive AI

安全、创新和包容的人工智能首尔宣言

1.We, world leaders representing Australia, Canada, the European Union, France, Germany, Italy, Japan, the Republic of Korea, the Republic of Singapore, the United Kingdom, and the United States of America, gathered at the AI Seoul Summit on 21st May 2024, affirm our common dedication to fostering international cooperation and dialogue on artificial intelligence (AI) in the face of its unprecedented advancements and the impact on our economies and societies.

1.我们，代表澳大利亚、加拿大、欧盟、法国、德国、意大利、日本、韩国、新加坡、英国和美国的国家领导人，于2024年5月21日聚集在首尔人工智能峰会，面对人工智能前所未有的进步及其对我们经济和社会的影响，申明我们共同致力于促进有关人工智能（AI）的国际合作与对话。

2. Building on the work laid out at the AI Safety Summit held at Bletchley Park in the United Kingdom in November 2023, we recognize that AI safety, innovation, and inclusivity are inter-related goals and that it is important to encompass these priorities in international discussions on AI governance to address the broad spectrum of opportunities and challenges that the design, development, deployment, and use of AI presents and may present.

2.在2023年11月英国布莱切利公园举行的人工智能安全峰会工作成果的基础上，我们认识到人工智能的安全性、创新性和包容性是相互关联的目标，必须将这些优先事项纳入关于人工智能治理的国际讨论中，以应对人工智能的设计、开发、部署和使用所带来和可能带来的广泛机遇和挑战。

3. We recognise the importance of interoperability between AI governance frameworks in line with a risk-based approach to maximize the benefits and address the broad range of risks from AI, to ensure the safe, secure, and trustworthy design, development, deployment, and use of AI. We continue to focus on supporting the operationalisation of the Hiroshima Process International Code of Conduct for Organizations Developing Advanced AI Systems. We recognize the particular responsibility of organizations developing and deploying frontier AI, and, in this regard, note the Frontier AI Safety Commitments.

3.我们认识到，为了最大化人工智能的益处并应对其带来的广泛风险，人工智能治理框架之间的互操作性至关重要，这与基于风险的方法来确保人工智能的设计、开发、部署和使用的安全、可靠和可信赖密切相关。我们将继续关注支持《广岛进程组织开发先进人工智能系统组织国际行为准则》的实施。我们认识到开发和部署前沿人工智能的组织负有特殊责任，并在这方面注意到《前沿人工智能安全承诺》。

4. We support existing and ongoing efforts of the participants to this Declaration to create or expand AI safety institutes, research programmes and/or other relevant institutions including supervisory bodies, and we strive to promote cooperation on safety research and to share best practices by nurturing networks between these organizations. In this regard, we welcome the Seoul Statement of Intent toward International Cooperation on AI Safety Science, which is annexed to this Declaration.

4.我们支持本宣言的参与者为创建或扩大人工智能安全研究所、研究项目和/或其他相关机构（包括监管机构）所做的现有和持续进行的努力，并努力通过培养这些组织之间的网络来促进安全研究方面的合作和分享最佳实践。在这方面，我们欢迎本宣言附件中的《首尔人工智能安全科学国际合作意向声明》。

5. We call for enhanced international cooperation to advance AI safety, innovation and inclusivity to harness human-centric AI to address the world’s greatest challenges, to protect and promote democratic values, the rule of law and human rights, fundamental freedoms and privacy, to bridge AI and digital divides between and within countries, thereby contributing to the advancement of human well-being, and to support practical applications of AI including to advance the UN Sustainable Development Goals.

5.我们呼吁加强国际合作，以推动人工智能的安全性、创新性和包容性，利用以人为本的人工智能来解决世界上最大的挑战，保护和促进民主价值观、法治、人权、基本自由和隐私权，弥合国家之间和国家内部的人工智能和数字鸿沟，从而为推动人类福祉做出贡献，并支持人工智能的实际应用，包括推进联合国可持续发展目标。

6. We advocate for policy and governance frameworks, including risk-based approaches, that foster safe, innovative and inclusive AI ecosystems. Frameworks should facilitate a virtuous cycle between human creativity and the development and use of AI, promote socio-cultural, linguistic, and gender diversity, and promote environmentally sustainable development and use of technology and infrastructure throughout the life-cycle of commercially and publicly available AI systems.

6.我们主张制定政策和治理框架，包括基于风险的方法，以促进安全、创新和包容的人工智能生态系统。这些框架应促进人类创造力与开发和使用人工智能之间的良性循环，促进社会文化、语言和性别多样性，并在商业和公共可用的人工智能系统的整个生命周期内，促进技术和基础设施的环境可持续发展和使用。

7. We affirm the importance of active multi-stakeholder collaboration, including governments, the private sector, academia, and civil society to cultivate safe, innovative and inclusive AI ecosystems, and the importance of cross-border and cross-disciplinary collaboration. Recognizing that all states will be affected by the benefits and risks of AI, we will actively include a wide range of international stakeholders in conversations around AI governance.

7. 我们申明包括政府、私营部门、学术界和民间社会在内的多方利益攸关方积极合作对于培育安全、创新和包容的人工智能生态系统的重要性，以及跨界和跨学科合作的重要性。我们认识到所有国家都将受到人工智能利益和风险的影响，因此我们将积极吸纳广泛的国际利益相关者参与有关人工智能治理的对话。

8. We aim to strengthen international cooperation on AI governance through engagement with other international initiatives at the UN and its bodies, G7, G20, the Organization for Economic Co-operation and Development (OECD), the Council of Europe, and the Global Partnership on AI (GPAI). In this light, we acknowledge the Hiroshima AI Process Friends Group, welcome the recently updated OECD AI principles, and the recent adoption by consensus of the United Nations General Assembly resolution “Seizing the opportunities of safe, secure and trustworthy artificial intelligence systems for sustainable development” that solidified the global understanding on the need for safeguards for AI systems and the imperative to develop, deploy, and use AI for good, and welcome discussions on the Global Digital Compact in advance of the Summit of the Future in September 2024 and look forward to the final report of the UN Secretary-General’s High-level Advisory Body on AI (HLAB).

8. 我们的目标是通过与联合国及其机构、七国集团、二十国集团、经济合作与发展组织（OECD）、欧洲委员会和全球人工智能伙伴关系（GPAI）等其他国际倡议合作，加强人工智能治理方面的国际合作。有鉴于此，我们认可广岛人工智能进程之友小组，欢迎最近更新的OECD人工智能原则，以及最近以协商一致方式通过的联合国大会决议“抓住安全、可靠和可信赖的人工智能系统促进可持续发展的机遇”，该决议巩固了全球对人工智能系统保障措施的必要性的理解，以及为善而开发、部署和使用人工智能的必要性，并欢迎在2024年9月的未来峰会之前讨论全球数字契约，并期待联合国秘书长人工智能高级别咨询机构（HLAB）的最终报告。

9. Acknowledging the value of AI Summit dialogues as a high-level forum to advance discussion on AI governance which facilitates AI safety, innovation and inclusivity, we look forward to our third gathering at the upcoming AI Action Summit to be held in France.

9. 我们认识到人工智能峰会对话作为推动人工智能治理讨论的高级别论坛的价值，它有利于人工智能的安全、创新和包容，我们期待着在即将于法国举行的人工智能行动峰会上的第三次聚会。

Annex: Seoul Statement of Intent toward International Cooperation on AI Safety Science

附件：《人工智能安全科学国际合作首尔意向声明》

1. Gathered at the AI Seoul Summit on 21 May 2024, and following on from the AI Safety Summit in Bletchley Park on 2nd November 2023 and acknowledging the Safety Testing Chair’s Statement of Session Outcomes from the Bletchley Leaders’ Session, world leaders representing Australia, Canada, the European Union, France, Germany, Italy, Japan, the Republic of Korea, the Republic of Singapore, the United Kingdom, and the United States of America affirm the importance of international coordination and collaboration, based in openness, transparency, and reciprocity, to advance the science of AI safety. We affirm that safety is a key element in furtherance of responsible AI innovation.

1. 来自澳大利亚、加拿大、欧盟、法国、德国、意大利、日本、韩国、新加坡、英国和美国等国家的领导人出席了于2024年5月21日举行的人工智能首尔峰会，并对安全测试主席在布莱切利领导人会议上发表的会议成果声明表示认可，要在公开、透明和互惠的基础上开展国际合作，以推动人工智能安全、科学的发展。我们申明，安全是促进负责任的人工智能创新的关键因素。

2. We commend the collective work to create or expand public and/or government-backed institutions, including AI Safety Institutes, that facilitate AI safety research, testing, and/or developing guidance to advance AI safety for commercially and publicly available AI systems.

2. 我们支持为设立或扩大政府支持的机构（包括人工智能安全研究所）而开展的集体工作，这些机构促进人工智能安全研究、测试和制定指南，以提高商业和公共人工智能系统的安全性。

2.1. We acknowledge the need for a reliable, interdisciplinary, and reproducible body of evidence to inform policy efforts related to AI safety. We recognise the role of scientific inquiry and the benefits of international coordination for the advancement of such inquiry, so that ultimately the benefits of AI development and deployment are shared equitably around the globe.

2.1 我们认识到需要一套可靠的、跨学科的、可重复的证明体系来为人工智能安全相关政策的制定提供依据。我们认识到科学研究和国际协调的重要作用，以便最终在全球范围内公平的分享人工智能开发和部署所带来的利益。

2.2. We affirm our intention to leverage and promote common scientific understandings through assessments such as the International AI Safety Report, to guide and align our respective policies, where appropriate, and to enable safe, secure, and trustworthy AI innovation, in line with our governance frameworks.

2.2 我们申明，我们通过《国际人工智能安全报告》等评估来增进我们对人工智能的共识，旨在一定情况下指导和协调各自的政策，并根据我们的治理框架，促进安全、可靠、可信的人工智能创新。

2.3. We express our shared intent to take steps toward fostering common international scientific understanding on aspects of AI safety, including by endeavouring to promote complementarity and interoperability in our technical methodologies and overall approaches.

2.3 我们表示愿意采取措施以促进国际社会对人工智能安全问题的共识，包括通过以下方式促进我们的技术方法和总体方针的互补性和互操作性。

2.4. These steps may include taking advantage of existing initiatives; the mutual strengthening of research, testing, and guidance capacities; the sharing of information about models, including their capabilities, limitations, and risks as appropriate; the monitoring of AI harms and safety incidents; the exchange or joint creation of evaluations, data sets and associated criteria, where appropriate; the establishment of shared technical resources for purposes of advancing the science of AI safety; and the promotion of appropriate research security practices in the field.

2.4 这些步骤包括利用现有的倡议；加强研究、测试和指导能力；共享有关人工智能系统的信息，包括其能力、局限性和风险；人工智能危害和安全事故监测；交换或联合创建评估、数据集和相关标准；建立共享技术资源，以推进人工智能安全、科学的发展；在该领域推广适当的研究安全实践。

2.5. We intend to coordinate our efforts to maximise efficiency, define priorities, report progress, enhance our outputs’ scientific rigor and robustness, promote the development and adoption of international standards, and accelerate the advancement of evidence-based approaches to AI safety.

2.5我们将努力协调，以最大限度地提高效率，确定优先事项，报告进展情况，提高产出的科学严谨性和稳健性，促进国际标准的制定和实施，加快推进以证据为基础的人工智能安全方法。

3. We articulate our shared ambition to develop an international network among key partners to accelerate the advancement of the science of AI safety. We look forward to close future collaboration, dialogue, and partnership on these and related endeavours.

3. 我们阐明了共同目标，即在主要合作伙伴之间建立一个国际网络，以加快人工智能安全且科学的发展。我们期待着未来在这些领域及相关领域中开展密切的合作、对话和建立伙伴关系。

官方发布详见：

https://www.gov.uk/government/publications/seoul-declaration-for-safe-innovative-and-inclusive-ai-ai-seoul-summit-2024

没有被设置“星标”的微信公众号

收到的推送极其有限，时间也会大大延迟

如果您想要收到我们的第一手推送

请为我们设个“星标”吧！

设星标，不迷路！