【WAIC】人工智能安全守护行动之二：WAIC共话AI安全防护与规范发展路径

AI风险防控方面，中国软件评测中心（以下简称“中心”）在软件测试、算法评估等领域持续积累经验，目前已构建起从基础层到应用层的全链条测试能力。巩潇副主任表示，第三方评测机构的首要作用是为行业提供技术保障，尤其在安全领域筑牢防线。同时，标准规范引领是第三方评测机构的另一重要职责，行业发展到一定阶段离不开标准的保驾护航，AI领域亦是如此。中心正积极联合产业链上下游各方，共同推进国家标准与规范的制定，并依据标准为技术和产品提供专业测试评价服务。此外，面对AI技术的高速发展及未来在各行业的广泛落地，国家监管体系需要长期支撑，中心将持续发挥自身优势，助力主管部门随技术发展更新监管政策与手段。

AI安全技术攻坚方面，巩潇副主任指出，随着AI在机器人、智能网联汽车等广泛应用，高不确定性成为突出难题，这是AI系统面临的新挑战。新兴攻击手段如数据投毒的出现、伦理相关安全问题的凸显，都对测试工作提出了更高要求，尤其是对抗性攻击的关注升温，倒逼测试方法、用例库及工具链必须做出相应调整。她强调，AI加速发展时代更应该关注多种风险带来的“融合安全”问题，这充分体现了AI测试技术的复杂性与深度。中心目前已面向大模型数据处理及预训练阶段、部署微调阶段、大模型应用阶段，形成训练数据安全、大模型运行环境安全、大模型应用安全等测试能力。

AI体系化治理举措方面，巩潇副主任分析认为，随着AI快速发展，安全责任边界有待厘清、标准制定存在空缺、安全风险日益凸显。对此，中心作为第三方评测机构可发挥关键协调作用，推动不同归口的标准间有效对接，厘清监管制度边界模糊的关键问题，同时积极支撑好主管部门推动建立全面的安全政策与应急响应机制。她建议，AI安全需进一步加强体系化治理，确保AI技术在安全、规范的框架内健康发展，以适应技术快速变化与安全挑战频现的新形势。