技经观察丨浅析类ChatGPT人工智能引发的数据安全问题

随着类ChatGPT人工智能技术的快速发展，大模型作为重要的技术方向已经在许多领域取得了显著的进展，如自然语言处理、搜索引擎、图像识别和智能办公软件等。然而，由此带来的数据安全问题也越来越受到关注，包括隐私保护、数据合规和模型评估等，这些问题已成为大模型进一步发展的关键问题之一。为了解决这些问题，各国正在积极研究和探索适用于人工智能大模型的数据安全保护技术和政策。

二、类ChatGPT人工智能数据安全问题

当下，类ChatGPT人工智能大模型在各领域融合发展方兴未艾，这些大模型具有高度的复杂性和跨领域的知识储备，能够帮助我们从海量的数据中挖掘出更加深层的信息和知识，但同时也带来了数据安全问题。

（一）隐私数据保护问题。随着人工智能大模型的出现和应用，隐私数据保护问题正变得更加复杂和紧迫。大模型使用的海量训练数据通常来自于维基百科（Wikipedia）、书籍、期刊和社交媒体等互联网公开数据。若某些训练数据未取得授权，则会产生数据隐私保护和数据合规方面的问题，如Twitter首席执行官马斯克就曾指责微软非法使用Twitter数据进行人工智能训练，并称会起诉微软。此外，目前用户与基于人工智能大模型的对话机器人（如ChatGPT、Bard等）交互的私密数据也会被人工智能公司用于训练，比如对话式人工智能大模型在训练过程中使用的基于人类反馈的强化学习（Reinforcement Learning from Human Feedback，RLHF）算法，就会将用户的反馈用于优化模型参数，以增强模型和人类的对齐，提高对话机器人的性能，而且在训练后的模型中很难删除相关信息。如果这些数据没有得到充分的保护，就可能被不法分子获取，导致隐私数据泄露的风险增加。

（二）数据跨境合规问题。以ChatGPT为代表的人工智能大模型正显现出与各行业融合发展的趋势，其中涉及的数据类型和来源也在不断增加，这些数据的处理和传输将涉及到跨境数据流动，从而引发了数据跨境合规问题。根据ChatGPT的运作原理，用户在对话框进行交互，相关问答数据将会传输到位于美国的OpenAI公司，在这样一个过程中，数据的跨境流动都会引发数据跨境合规问题。另外，美国OpenAI公司还推出ChatGPT应用程序编程接口（API），可供第三方开发者将ChatGPT模型集成到他们的应用程序和产品中。目前已有多家公司表示计划用ChatGPT技术全面改革其整个产品阵容，比如美国微软公司已将ChatGPT技术扩展到Bing搜索和Power Platform以改善相关产品的性能，而这将会导致用户数据的跨境流动更加频繁，并增加数据合规监管的难度。

（三）黑箱模型的可解释性问题。人工智能大模型通常采用深度学习和其他机器学习技术进行训练和推理，内部存储了千万亿的模型参数，因此，大模型内部的工作方式和决策过程非常复杂，缺乏可解释性和透明度，具有这类特征的模型被称为黑箱模型（Black Box），同时，这类模型也给数据安全治理带来了挑战。监管机构往往难以理解和评估这类模型的内部运作机制，从而难以制定合适的监管政策和标准。例如，欧盟《通用数据保护条例》（GDPR）中规定数据所有人有权要求数据持有人和处理人删除与其相关的个人数据，但针对人工智能大模型存储信息的形式，企业很难像检索数据库一样定位相关信息，简单进行个人信息的删除是很难实现的。另外，黑箱模型还会增加识别其内部潜在数据安全漏洞的难度，如果黑箱模型出现错误或被恶意攻击，很难被发现和处理，从而影响数据安全。

（四）模型数据安全评估问题。人工智能大模型算法具有复杂的结构设计，在运作机制上容易存在缺陷和漏洞，因此，如何科学合理对模型数据安全进行评估是当前的一项严峻挑战。模型数据安全风险主要表现在以下方面：1.模型数据安全：在人工智能模型的开发过程中，需要对模型进行模型数据安全机制评估，以确保模型的数据安全性，如数据隐私保护、数据完整性保护、数据可用性保护等；2.模型数据攻击：人工智能大模型可能存在被用于攻击的漏洞，例如对抗性攻击，黑客或者恶意用户可以通过篡改模型输入数据来欺骗模型输出其他人或者机构的隐私信息；3.模型生成数据不可控：生成式人工智能大模型的复杂性和不确定性，可能会使其生成意想不到的结果，如虚假信息等。

作者简介

刘纪铖 国务院 发展研究中心国际技术经济研究所研究二室

研究方向：信息领域战略、技术和产业前沿

联系方式：[email protected]

编辑丨郑实