国际 | 平衡创新与安全，解读新加坡《生成式人工智能治理模型框架》

来源：中国信息通信研究院根据《框架》整理

图1 新加坡生成式人工智能治理模型框架示意

源头上，《框架》在问责机制上区分事前责任分配和事后“安全网”的创新路径，“事前”明确了人工智能产业链上各方能够按照其控制水平分担责任，“事后”将开发商承诺承担责任、产品损害责任与无过失保险统筹结合，确保风险发生时能够获得救济。

流程上，《框架》注重数据、开发部署、实践报告和测试保证方面的治理。数据方面，从数据可信、可访问、高质量三个方面提出建议，包括明确法律适用例外情形、促进各利益攸关方加强沟通、建设全球可信数据集库等具体举措。可信开发和部署方面，建议开发阶段通过来自人类反馈的强化学习等微调技术减少幻觉和错误；披露阶段使用“食品标签”形式公开信息；评估阶段推动形成更加全面且具有一致性的评估方法，同时关注不同行业的特殊需要。事件报告方面，提出事前采取漏洞报告激励机制，主动采取措施避免事件发生；事后侧重披露补救机制，并将“严重人工智能事件”及时向政府和公众作出说明。测试和保证方面，注重第三方测试的重要性，使用具有共识性的基准和测试方法。

保障上，《框架》注重安全、内容来源、安全和对齐研发以及促进公益方面的治理。安全方面，提出了安全设计与安全保障两类安全举措。内容来源方面，建议使用数字水印和加密出处等技术方法标记人工智能生成合成内容；与出版者、分发平台等内容生成的关键方开展合作以嵌入水印；增进用户对数字水印识别、验证的了解，并提供可验证的工具。安全和对齐研发方面，开发过程中促进对齐，利用人工智能反馈的强化学习等预训练；训练后进行对齐验证，以便发现问题并寻找原因。人工智能促进公益方面，《框架》从技术获取、公共服务提供、劳动力和可持续性4个关键点提出促进人工智能促进公益应用的具体路径。

（来源：中国信通院）