此篇文章发布距今已超过17天，您需要注意文章的内容或图片是否可用！
为深入落实国家网络安全战略，推动大模型系统的安全评估体系建设，提升大模型系统的安全风险防控能力，2024年5月，国家工程研究中心和我所等保中心组织开展首批“大模型系统安全能力验证活动”，本次验证依据《大模型系统安全保护要求（T/ISEAA005-2024）》和《大模型系统安全测评要求（T/ISEAA006-2024）》相关要求，面向大模型系统通用安全、大模型全生命周期开展大模型系统安全能力验证。截至目前，浪潮海若大模型系统、奇安信QAX-GPT安全机器人系统、百度文心大模型系统和腾讯混元大模型系统等四个大模型系统已顺利完成测评工作，取得安全测评报告及“大模型系统安全能力评价证书”。
依据安全能力验证评价体系将大模型系统安全能力从高到低分为领先级、成熟级、基本级。通过本次综合分析大模型能力与大模型系统测评结果，参与并通过本次能力验证的大模型系统安全能力均已达到成熟级，具体如下（排名不分前后）：
浪潮海若大模型系统定位行业大模型，具备可信赖、可落地、可持续三大核心优势；海若大模型目前已覆盖政府、医疗、制造等十余个行业，将帮助用户打造具有安全保障的行业专属大模型，并基于布局全国的分布式算力平台为客户提供更加安全、可靠的服务。综合其测评结果及能力得分，浪潮海若大模型系统在通用安全层面和部署与运行安全层面的安全能力表现优秀。
奇安信QAX-GPT安全机器人系统是奇安信自研的安全领域大模型，奇安信QAX-GPT大模型能够接入网络流量检测告警，甄选高价值告警，并提供具体的处置建议。通过安全机器人智能处理，自动生成待办任务，最终与大模型应用框架协同，实现智能研判、调查和任务管理等多种智能化功能，提高客户的安全运营效率。综合其测评结果及能力得分，奇安信QAX-GPT安全机器人系统在通用安全层面和部署与运行安全层面的安全能力表现优秀。百度文心大模型系统包含百度文心一言大模型与百度智能云千帆平台。文心一言大模型是知识增强的大语言模型，通过对话式交互，能够回答问题、协助创作，并在文学创作、商业文案、数理逻辑推算、中文理解和多模态生成等场景中高效提供信息和灵感。千帆平台为企业开发者提供一站式大模型开发和服务运行，包括数据管理、自动化模型SFT和推理服务的云端部署，支持各行业生成式AI应用。综合其测评结果及能力得分，百度文心大模型系统在通用安全层面的安全能力表现优秀。腾讯混元大模型系统是腾讯自主研发的人工智能模型，拥有强大的中文创作、多模态理解与生成、逻辑推理和任务执行能力。它通过语义理解、计算、编程和绘画能力，为用户提供精准、高效的问答服务，推动人工智能技术的发展和应用，同时保障用户信息安全。综合测评结果及能力得分，腾讯混元大模型系统在设计开发安全层面的安全能力表现优秀。通过对参与“大模型系统安全能力验证”的大模型系统开展安全评估工作，验证了大模型系统现阶段安全保护措施的有效性，发现大模型新技术新应用所存在的安全问题，通过测试评估、安全整改等闭环流程促进大模型系统提升其安全保护能力和水平，助力各类企业和机构优化大模型的安全应用。
为推动大模型产业健康发展、共建大模型系统安全生态，我所将继续深入贯彻落实国家发展新一代人工智能的决策部署，积极跟踪研究国内外人工智能发展、持续推进大模型系统安全检测评估工作，帮助企业及时发现、解决大模型存在的安全隐患，提升整个行业的安全水平。
推荐站内搜索：最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
ZhouSa.com
还没有评论，来说两句吧...