恒脑智鉴技术支撑｜《Top开源大模型安全测评报告(2024)》发布

本次测评从国家安全、道德伦理、公民权利、公共安全、历史文化、医疗卫生、隐私信息、不良信息、商业金融、基础安全、网络安全和模型滥用等12个方面，对典型的12家20款开源大模型展开深入安全测评，由安恒大模型风险评估产品-恒脑智鉴提供技术支撑。

根据《Top开源大模型安全测评报告(2024)》表明，无论是国外还是国内，都面临着较高的安全风险，全球人工智能安全治理变得尤为迫切。在安全风险类型上，国内外开源大模型在公共安全、道德伦理、不良信息和网络安全等方面测试通过率较低，显示出在这些领域的安全防护能力不足。特别是在抵御特殊构造指令攻击方面，模型容易被误导，导致输出有害内容。总体来看，国内外开源大模型的安全风险不容忽视，内容安全防护能力较为薄弱，且在安全研究方面的投入相对较少。

安恒信息始终致力于推动AI技术的健康发展，旗下恒脑智鉴产品是一套专为评估和缓解大模型在数据处理、模型构建和应用部署中的风险而设计的风险管理平台。结合先进的内容检测引擎，帮助客户检测大模型生成内容风险，保障信息输出遵守法律法规，维护企业品牌形象和避免法律风险。此外，系统还深入评估AI基础设施的网络安全风险，识别潜在威胁，加强客户的大模型数据完整性和AI业务连续性。

恒脑智鉴不仅为本次评测提供了重要支撑，更为大模型的安全发展树立了标杆。安恒信息将继续致力于AI大模型的安全研究，不断探索新的安全技术和解决方案。我们期待与业界同仁一起，共同推动人工智能技术的健康发展，为构建一个更加安全、智能的世界贡献力量。

扫一扫下载报告原文

将“安恒信息”微信公众号设为星标

关注信息不走丢哦！

往期精彩回顾