硅基生命的崛起，碳基生命的挑战：AI的伦理与安全边界

任何事情都有两面性，AI也是双刃剑，我们可以既可以利用AI，提高应用系统的安全可信性，也需要让AI系统变得安全可信。碳基生命和“硅基生命”之竞合的伦理道德问题，AI在帮助人类发展的同时，也会被别有用心的人利用，例如黑客利用AI进行攻击、不法分子利用AI换脸和换声实施犯罪诈骗、敌对国家团体危及国家安全和百姓生命等，引发众多安全风险：

1）社会、价值观、伦理道德问题：一些行业、职业受AI的影响，被AI替代的人员就业问题等；需要AI符合道德伦理以及法律规范。

2）法律法规问题：AIGC生成内容的权属问题，AI使用数据和内容的版权问题，以及合规可监管问题。

3）内容的真假：换脸、配音等造成不可信问题、AI影响与诱导人们决策、危及财富、生命及企业、社会和国家安全等问题。需要保障训练数据、输入数据和生成内容的安全可信与合规可监管。

4）使用时的安全可信和隐私保护问题：模型/算法后门漏洞、程序后门漏洞、数据投毒造假、编造结果、隐私泄漏、可信安全等问题；如果第三方API被直接使用或被嵌入业务应用中，直接让对方/黑客进入业务和系统中，风险极大。需要算法/模型、数据、代码、环境等的安全可信。

5）确定性和可解释性：同样条件要得到同样结果并可以解释为什么，目前还有很多不确定性和无法解释，AI需要解决确定性和可解释。

6）原生安全可信负责：AI从目标、设计就要安全可信、合规可监管，其数据和结果要保护隐私，从芯片、OS、中间件、应用等做到安全可信；借助第三方专业安全可信机构的认证，避免直接使用、调用未认证的供应商包括开源软件，使用专有的AI服务或经过认证的云服务，利用安全可信技术、隐私计算和可信计算技术等，做到合规安全可信。

AI可以用于安全可信负责，改善提高现有安全可信负责体系；同时也需要保障AI自身的安全可信负责，做到合规可监管，并且符合伦理道德。基于AI的5大核心要素：数据、算力、传输、存储和算法，CSA大中华区提出并发布了《AI安全白皮书》及《ChatGPT的安全影响》，包括开发者、使用者需要遵循的原则和方法。

我们需要采用风险分类分级的规制路径，将AI系统的风险划分成不可接受的风险、高风险、有限风险和轻微风险四种类型，并针对不同类型施加不同的监管措施：

1）禁用不可接受的风险类型的AI系统；

2）重点监管高风险类型的AI系统；

3）由市场优胜略汰和事后治理有限风险或轻微风险类型的AI系统；

4）其它未归类的AI系统，不预设特殊的干预和审查制度，但提供者可自愿建立各行业的行为准则。

另外，各国政府、企业和第三方组织也在积极参与推进人工智能的治理与发展方面的工作，如CSA（AI风险与开发规范）、WDTA（人工智能安全、可信和负责任AI STR）、NIST、及OpenAI（超级对齐）、微软、谷歌、Meta、AWS等。

CSA大中华区也作为人工智能安全、可信和负责任（AI STR）牵头者，微软、谷歌、蚂蚁集团、百度、NIST、Meta、科大讯飞、香港科技大学、芝加哥大学、PrivateAI等众多国际知名科技公司和组织的广泛支持与积极参与，于2024年4月在联合国日内瓦总部所在地万国宫发布。这是国际组织首次在大模型安全领域发布国际认证标准，为业界提供了统一的测试框架，推动人工智能技术的安全、可靠发展。

联合国发表了“全球人工智能治理宣言”及《2024年人工智能治理：为人类服务的最终报告》、20国在英国发布了《全球人工智能治理倡议》；中国在24年发布《人工智能安全治理框架》，是对习近平总书记宣布提出的《全球人工智能治理倡议》的贯彻落实，为应对人工智能带来的安全挑战提供基础性、框架性的指导，提出了构建“以人为本、智能向善”的人工智能的全面系统建设思路以及切实可行的实践指南，也为全球人工智能治理提供了参考范例。

各国应在人工智能治理中加强信息交流和技术合作，在联合国框架下讨论成立国际人工智能治理机构，推动AI的安全、可信、负责任的技术发展，共同做好风险防范，形成具有广泛共识的人工智能治理框架和标准规范，不断提升人工智能技术的安全性、可靠性、可控性、公平、普惠。

我们需要平衡运营方、数据提供方、算法模型方、平台、结果使用方和监管等各方的责任、权力和利益。更要从法律规范、组织制度、商业文化、技术人才等方面，确保AI及其应用安全可信、合规可监管，实现AI的安全、可信和负责任，让AI造福全人类。

安全、可信、负责任是AI发展的核心，也是数智经济及新质生产力和全要素化的基石，需要在遵从联合国框架下发展包容、可持续的人工智能造福人类与地球，国际社会需要建立有效的合作机制，确保AI技术的开发和应用符合全球利益，聚焦于“以人为本、智能向善”，AI治理需要遵循“理性、务实和负责”三大原则，做到理性、专业、客观、全面、公平、可持续和多样性，尊重国际法包括人道主义法、人权法以及保护人权，从而最大限度地发挥AI的巨大潜力，“以安全保障发展，以发展促进安全”。

扫码报名