专家观点 | 法治化防控人工智能风险 - 新鲜讯息

扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

文 | 浙江省社会科学院法学所研究员、浙江大学浙江数字化发展与治理研究中心特聘研究员王海明

当前，人工智能数智化发展方兴未艾，其技术创新、技术嵌入、技术赋能不断展开。一方面，人工智能给社会发展带来诸多福祉，另一方面，新兴技术潜在的隐患、风险也让公众忧心忡忡。例如，此前被叫停的“萝卜快跑”之所以陷入舆论漩涡，根源在于社会公众对智能驾驶可能引发的社会风险抱有不安。

人工智能风险的现实特征

一方面，人工智能风险具有初步性。目前，人工智能技术及其应用整体处于数智化初始阶段。此时，人类对人工智能风险的认识和预判也具有局限性。技术风险在初步展开时往往是潜在、隐形的，需要在技术迭代中经历长时间的积聚和复杂的系统传导才能显明。人工智能风险的初步性，意味着它尚未充分展开，其复杂性、危害性尚未充分呈现。当前，对人工智能技术风险的分类与概括，有“AI数据隐私与安全”“AI隐私数据滥用”“AI算法黑箱”“AI算法误导”“AI算法歪曲”“AI算法歧视”“AI算法滥用”“AI算法偏差”等。对人工智能社会风险的分类与概括，有“AI替代风险”“AI信息茧房”“AI利维坦”“人类客体化风险”等。对人工智能伦理风险的分类与概括，有“AI弱价值风险”“AI去伦理风险”“AI武器化风险”等。但是，以上分类依然处于一个折叠的、初步展开的状态。如何在描述上使其更加精确、在逻辑上使其更加周延，还有待今后在实践中完善。

另一方面，人工智能风险具有大数性。大数性，是指随机偶发的风险在社会公共空间中不断发生，总体上存在一定的概率或规律，可以通过市场机制进行分险。当前，人工智能技术深入而广泛地嵌入社会生活，数智化技术服务对象广泛而普遍，人工智能风险侵害的群体也具有复数性。人工智能风险属于技术风险、人化风险，可以通过一定的制度建构来进行识别、预防和转移，具有较为明显的分险性和治理性。因此，多种机制都能对人工智能风险进行有效介入和防控。一是市场化的分险机制，通过发展责任保险，为可能遭受风险的被保险人提供必要的保险保障。二是社会化的分险机制，通过发展社会救济、社会救助制度，对遭受风险的受害方提供必要的社会保障。三是国家分险机制，通过国家法律、法规、政策，对人工智能风险实施制度化治理。总之，可以根据人工智能发展的国际、国内情势和风险发生的具体情况，因势利导、循序渐进，构建起一套均衡的、多种机制协同参与的风险防控治理机制。

人工智能风险依法治理三原则

做好人工智能风险防控，不仅要精准认识到人工智能风险的形态与特征，也要在实践中把握好如下治理原则。

一是风险均衡治理原则。我国人工智能数智化发展具有时空压缩的特征，正处于一种压缩型的高速发展状态。其扩展过程是迅疾的，平台、应用、算法、数据等数智化要素存在的技术风险、社会风险、伦理风险尚未完全展开，相应的学理研究、治理制度、治理政策、治理举措尚未经过淬炼磨砺。因而，人工智能数智化发展的确面临规范不足、规制不力等问题。对此，要平衡好人工智能技术的发展性和风险性，这也是我国制定人工智能技术政策和产业政策、进行制度构造必须把握的战略关系之一。面对人工智能国际竞争的复杂形势，我国人工智能数智化发展不仅面临技术瓶颈，也面临规范制约和制度制约。因此，保障、推动、加速、强化人工智能的发展性是必然的、首要的选择。在发展性优先的前提下，通过制度建构和规范构造合理管控人工智能风险，并在社会中形塑一种开放多元、谨慎包容的风险文化，是当前我国人工智能风险治理必须把握的战略性基本原则。

二是风险分层治理原则。20世纪中叶以来，工商业文明的现代性风险进入集中爆发期，风险治理理论与风险治理实践进入历史舞台。与此同时，人类的前瞻能力、计算能力不断增强，风险治理范式逐渐从事后回应转向事前防治。不断发展的人类理性不仅可以预判风险，而且可以计算风险、对风险进行等级评估。由此，人类发展出对未来可能的风险进行分层治理的能力。近年来，随着人工智能数智化发展，将人工智能风险纳入法律视野进行分层治理，已经成为人工智能立法的主流选择。人工智能风险治理具有一般风险治理的普遍性，主要是一种公共行为、社会行为、政府行动，必然需要消耗治理主体所持有的各种治理资源。因而，有效的风险治理一定需要强调有限治理，对风险进行必要的分层、分类和区别，将有限的治理资源集中投放到重大风险防治之中。对于那些危害较小的风险，一般无需纳入政府治理，而是由风险自担机制、市场化分险机制、社会化分险机制来解决。风险分层治理强调分层评估的程序性。例如，欧洲议会2023年7月通过的《人工智能法案》明确了人工智能风险等级评估标准、风险等级评估程序和风险等级对应管控举措，将人工智能风险从高到低分为“不可接受的风险”“高风险”“有限风险”“低风险”。其分层治理的立法精神非常明确，对应的管控举措较为体系化，值得学习和借鉴。

三是风险规范治理原则。确保人工智能在一定的规范框架内发展，这是当前国际人工智能发展过程中形成的普遍性法治原则。通过立法强调人工智能发展的规范性，包括三种形态。一是确立指导理念，如英国2023年3月发布的《促进创新的人工智能监管方法》白皮书。二是构造法律原则，如美国2022年10月发布的《人工智能权利法案蓝图》。三是制定法律规范，如中国2021年9月出台的《新一代人工智能伦理规范》、2023年7月出台的《生成式人工智能服务管理暂行办法》。这三种形态虽然文本措辞略有差异，都强调人工智能要在具有指导性的规范框架内发展，都注重人工智能发展中的稳定性、安全性、多样性、透明度、隐私性、平等性、公平性，都针对人工智能风险进行了明确、场景化的界定和分类。例如，英国《促进创新的人工智能监管方法》白皮书明确了“公平风险”“隐私风险”“社会福祉风险”等潜在风险的假设场景，贯彻了“原则框架”“规范框架”“行为分类”等基本精神。总体来看，其中法律认可或鼓励的行为，一般属于低风险行为；而法律限制、禁止的行为，则属于高风险行为。构造人工智能的发展原则或者发展规范，强调人工智能在规范框架内发展，在一定程度上符合风险规范治理的内在逻辑。

（来源：中国社会科学网）

分享网络安全知识强化网络安全意识

欢迎关注《中国信息安全》杂志官方抖音号

《中国信息安全》杂志倾力推荐

“企业成长计划”

点击下图了解详情