G7数据保护机构发布可信人工智能行动计划和声明

导读

2024年10月10日至11日，七国集团数据保护和隐私机构 (Data Protection Authorities，下称“DPA”) 在罗马召开会议。此次年度盛会由意大利数据保护局组织，汇集了来自加拿大、法国、德国、日本、英国、美国、欧洲数据保护委员会和EDPS的隐私和数据保护监管机构。

此次讨论旨在塑造全球数据保护对话，特别是与人工智能的道德发展相关的对话。会议期间，DPA批准了一系列旨在加强隐私和人工智能治理的文件，包括联合公报、行动计划、关于DPA在培育和促进可信人工智能方面的作用的声明以及关于可信人工智能和适合儿童的人工智能的声明。

联合公报

在联合公报中，G7 DPAs强调了建立健全跨境数据传输机制以保护个人数据的重要性。这被视为跨境数据安全自由流动的基石。DPA重申了加强合作和监管协作的承诺，旨在面对快速的技术进步，加强信任和隐私。

行动计划

该行动计划侧重于数据自由流动与信任、促进尊重隐私的新兴技术以及扩大执法合作。DPA强调以人为本的人工智能的重要性，将数据保护原则应用于人工智能治理，并利用其在数据驱动处理方面的经验来应对人工智能挑战。该行动计划概述了以下三大支柱：

数据自由流动与信任（Data Free Flow with Trust，下称“DFFT”）：包括开发DFFT、传输工具以及政府数据访问；
新兴技术：包括知识交流与能力建设、个人信息保护合作以及战略支持-提高外部对G7 DPAs产出的认识和参与度；
执法合作：包括加强G7 DPAs与更广泛的数据保护和隐私执法机构之间的执法对话、G7执法合作工作组为支持执法合作活动而采取的干预措施以及对现有执法合作活动的普遍支持和扩大。

关于DPA在培育和促进可信人工智能方面的作用的声明

该声明强调了包括生成式人工智能在内的人工智能技术如何基于个人数据处理及其所带来的问题，包括不公平的刻板印象、偏见和歧视。此外，该声明概述了实现可信赖人工智能目标所采取的方法。

DPA默认以人为本：DPA已经将人权和个人保护作为其方法的核心。数据保护旨在保护人们在数据处理方面的权利和自由，这也包括人工智能技术；
许多数据保护总体原则可以融入更广泛的人工智能治理框架中，包括公平性、透明度、问责制和安全性；
DPA负责监督人工智能的核心组件；个人数据是AI开发的核心，包括生成AI等应用。DPA在确保AI技术负责任地开发和部署方面发挥着至关重要的作用；
DPA可以帮助从源头上解决问题；DPA可通过在上游（开发方式）和下游（部署方式）环境中检查AI，帮助在AI问题发展为系统性问题之前识别和解决这些问题；
DPA具有数据驱动处理方面的经验，并且可以利用此经验解决AI问题。

此外，会议还讨论了与儿童有关的人工智能的担忧，强调了基于人工智能的决策、操作和人工智能模型训练的问题。

关于人工智能与儿童的声明

G7 DPAs注意到当前与人工智能（AI）有关的监管和技术问题及发展，其中尊严、自主以及保护儿童和年轻人的基本权利和自由的需要应该发挥突出作用。尽管国际公约明确支持儿童权利，包括隐私权和数据保护权，但仍担心使用人工智能系统可能会侵犯隐私和数据保护权，这可能会对儿童和年轻人产生严重影响，该声明讨论了以下值得关注的领域：

基于人工智能的决策。人工智能系统的复杂性以及支持决策的数据处理透明度不足，可能会对儿童的权利和自由造成重大风险。儿童及其照顾者可能得不到足够的信息，不知道如何挑战可能对他们产生重大影响的决策。这最终可能导致基于人工智能的决策的整个过程中出现意想不到的歧视性偏见；
操纵和欺骗。人工智能工具可用于促使个人采取他们可能不会采取的行动，包括那些可能违背他们利益的行动。人工智能辅助工具能够生成具有操纵性、欺骗性或能够危及用户情绪状态和决策的内容，这使儿童面临严重风险。由于儿童在发生此类情况时无法识别或质疑，因此可能特别容易受到伤害。包括玩具中的人工智能/人工智能伴侣和深度伪造有关的操纵和欺骗；
人工智能模型的训练。模型和算法的训练对人工智能工具的有效性和可靠性起着至关重要的作用，从而影响其整个生命周期。收集和使用儿童个人数据来训练人工智能模型，包括从公开来源抓取的数据或从联网设备中捕获的数据，可能会侵犯儿童的隐私权，并可能导致有害后果。

文件来源：

1.联合公报：https://www.priv.gc.ca/en/opc-news/news-and-announcements/2024/communique-g7_241011/

2.行动计划：https://www.priv.gc.ca/en/opc-news/news-and-announcements/2024/ap-g7_241011/。

3. 关于数据保护机构在培育可信人工智能方面的作用的声明：https://www.priv.gc.ca/en/opc-news/speeches/2024/s-d_g7_20241011_ai/。

4. 关于人工智能与儿童的声明：https://www.priv.gc.ca/en/opc-news/speeches/2024/s-d_g7_20241011_child-ai/

END

社会的数字化转型和智能化发展深刻改变着各行各业的运行模式，收集、处理和共享个人信息日益频繁，全球各国和地区都高度关注如何在数字化时代保护个人信息，防止数据滥用和泄露。

2024年10月29-30日，由下一代互联网国家工程中心举办的2024GDTC全球数据技术大会即将在北京燕莎中心凯宾斯基饭店举办。是大会的首个论坛，旨在汇聚全球的产业创新者和个人信息保护与数据安全领域的专家、学者、实践者，深入探讨隐私保护技术的最新发展与挑战。论坛重点关注隐私保护如何在网络、数据、AI模型、产品服务和应用等方面通过技术和工程化方式落地，并应用于解决数据流通中的透明、信任、安全问题。

2024GDTC“全球数据技术大会”即将在京开幕

GDTC

2024

大会同期还将举办“隐私计算与区块链论坛”、、“高速数据网论坛”以及。

目前大会及各个论坛报名火热进行中，扫描下方二维码即可报名参会。

产品服务

前瞻研究

中心动态

数据信任与治理

“数据信任与治理”由下一代互联网国家工程中心运营。放眼全球数据治理前沿理论与实践进展，探索可信数据治理的中国模式，促进数据要素有序流通，释放数字经济红利。

TDG focuses on the cutting-edge theory and practice of global data governance, explores the Chinese model of trusted data governance, promotes global data flow, and fulfills the potential of the digital economy.