CSA发布 | 从原则到实践：动态监管下负责任的人工智能 - 新鲜讯息

随着人工智能技术的快速发展，特别是生成式人工智能（Generative AI）的广泛应用，如何在法律和伦理框架内开发和使用人工智能成为一个全球性议题。CSA大中华区发布《从原则到实践：在动态监管环境下负责任的人工智能》报告从多个维度深刻剖析了人工智能的治理和合规问题，旨在帮助企业和组织从合规和负责任的角度理解人工智能的法律背景，并为制定实践策略提供指导。

文末附报告下载方式

报告简要概述了当前人工智能领域的法律和监管环境，并为组织提供了一个了解现状、识别负责任且合规使用生成式人工智能的关键起点。随着技术的快速发展，以及法律和政策不断演变，全面的法律概述成为一项复杂的任务。因此，CSA建议，企业应将这些信息作为基础，持续关注并应对人工智能法规的变化。特别需要注意的是，人工智能的法律框架不仅受到各国政府的影响，还涉及到不同管辖区的规定和标准，这要求跨地区和国际间的合作与合规性同步推进。

核心内容解读：

一、生成式人工智能的挑战与监管现状

生成式人工智能（GenAI）通过大量数据学习并生成内容，如文本、图像和音频，广泛应用于创意产业、科研和日常生活。然而，快速发展的技术也带来了多个挑战。

数据隐私与安全

生成式人工智能在训练过程中需要处理海量数据，其中不乏涉及个人隐私的敏感信息。《通用数据保护条例》（GDPR）等法规对个人数据的收集、处理和存储提出了严格要求，如数据最小化原则、知情同意原则等。但在实际操作中，确保生成式人工智能系统完全符合这些要求并非易事。例如，训练数据的来源复杂多样，可能包含未经数据主体明确同意的数据，或者在数据处理过程中难以完全匿名化，从而存在泄露个人隐私的风险。

非歧视与公平

生成式人工智能在决策支持等领域的应用可能因训练数据中的偏见产生歧视性结果。美国《民权法案》、《平等就业机会法》等反歧视法律法规对此提出了明确要求，禁止基于种族、性别、年龄等受保护特征的歧视行为。然而，由于算法的复杂性和不透明性，识别和证明人工智能系统中的歧视性偏见变得异常困难。

知识产权

生成式人工智能创作内容涉及大量数据，可能包括受版权保护的作品。由于版权法要求创作需具有人类创作者，完全由AI创作的作品无法获得版权保护。此外，如何保护人工智能模型及其算法的知识产权，防止侵权和盗用，仍是一个待解决的问题。

二、负责任人工智能的技术战略与最佳实践

面对生成式人工智能带来的诸多挑战，报告强调了负责任人工智能的重要性，并提出了一系列技术战略和最佳实践。

公平与透明度

为减少偏见，生成式人工智能应使用多样性和代表性的数据集，并定期审计这些数据集，识别潜在偏差。数据来源和预处理信息应公开，便于外部审查。通过公开“模型卡片”详细记录模型的设计、数据源、性能指标和局限性，增加透明度。此外，采用可解释人工智能技术（如LIME、SHAP）有助于揭示模型决策过程，识别潜在的偏差，提高系统的信任度。

安全与隐私

在数据安全方面，应加密敏感数据，并采用多因素身份验证和零信任安全模式，确保数据的安全性。隐私保护方面，集成差分隐私、联邦学习和同态加密等技术，保障用户数据的隐私。例如，差分隐私通过添加噪声保护数据隐私，联邦学习避免将数据集中存储，降低泄露风险。同态加密则可在加密数据上进行处理，不暴露数据内容。

鲁棒性、可控性与合乎伦理的人工智能实践

进行全面的风险评估，测试模型在不同场景中的可靠性和鲁棒性，并设计“安全开关”或限制措施，减少潜在风险。在关键决策中保持人类干预机制，确保在必要时调整模型输出。同时，为人工智能系统的开发、部署和监控指定明确责任，确保问责制。记录完整的开发、训练和使用日志，并建立快速响应机制，应对潜在问题和不当行为。

三、持续监测与合规

生成式人工智能的有效治理离不开持续监测与合规。建立健全的监测流程，持续监测生成的内容和整个开发过程，检测数据、模型和输出中的偏差，同时验证数据隐私法规和道德处理的遵守情况。这种积极主动的方法可以促进公平性和包容性，防止生成的内容被滥用，如深度伪造和有害内容。

制定全面的合规计划，概述识别和降低与生成式人工智能活动相关的潜在合规风险的程序。重点关注数据安全和隐私，根据适用法规实施强有力的保障措施，在数据收集、存储和处理过程中保护敏感信息。定期评估并减少训练数据和模型输出中的潜在偏差，确保公平性和非歧视性。同时，确保用户了解生成式人工智能工具如何工作及其输出结果背后的原理，对于建立信任和问责至关重要。

四、管理生成式人工智能的法律与伦理考量

有效管理生成式人工智能需要在法律和伦理层面进行深入考量。法律上，要遵守知识产权、数据隐私和非歧视等现行法律，建立相关框架，确保负责任的开发、透明的数据使用，以及对生成式人工智能产出可能造成的伤害承担明确责任。伦理方面，要关注偏见、透明度、问责制和技术的潜在滥用等问题，通过开发人员、决策者和公众之间的不断对话与合作，制定伦理准则和最佳实践，确保生成式人工智能的负责任使用并使其造福社会。

五、未来展望与建议

报告倡导采用三管齐下的方式，推动生成式人工智能的负责任发展：

1. 科技公司：承诺开发透明、安全和公平的人工智能技术。

2. 政策部门：提供明确的指导框架，推动国际间的协作和标准化。

3. 立法机构：制定灵活、高效的法规，确保在保护公众利益的同时不抑制技术创新。

此外，报告还强调人工智能监管沙箱（AI Regulatory Sandbox）的重要性，为企业提供在安全环境中测试新技术的机会，帮助他们识别和减轻潜在风险。

课程推荐

人工智能安全认证专家(Certified Artificial Intelligence Security Professional，CAISP)认证培训项目由云安全联盟大中华区发布，旨在为从事AI及其安全的研究、管理、运营、开发以及网络安全等领域的专业人员提供一套全面覆盖AI安全领域的认证培训。其课程内容侧重于跨领域综合能力培养、实践导向与案例分析，并融合了全球视野与法规治理，从而提升学员在AI安全领域的综合技能。

CAISP学员对象：AI安全工程师、AI工程师与开发者、政策制定者和监管机构、网络安全从业者、安全研究员、合规与风险管理人员、AI行业从业人员、在校学生、AI应用终端用户及所有感兴趣的学员。

致谢

北京数安行科技有限公司（简称：数安行）是一家数据安全厂商。公司主营产品涵盖数据分类分级、数据安全沙箱、下一代数据泄露防护、数据安全检查、数据安全风险态势感知、数据安全风险监测与风险评估、数据合规与隐私保护、数据运营安全等，主要为政府、军队、企事业单位提供数据运营安全产品和服务。数安行以DataSecOps为理念，以AI人工智能技术为核心驱动，将数据安全左移，在数据处理的第一现场对数据采取安全措施，平衡业务与安全，打造以数据运营为核心的数据安全生态体系，助力数字化转型，致力于让用户的数据安全地创造价值。公司核心团队拥有20余年产研和市场服务经验，技术积累雄厚，服务于能源、电力、金融、运营商、教育、高端制造、软件与信息技术服务、互联网、医疗、政府、军队军工等各行业客户。

关注公众号，回复关键词“原则”

即可获取报告完整版

推荐阅读