知道创宇杨冀龙：大模型都应进行安全评测，核心价值观大模型助力AI应用合规

会上，知道创宇联合创始人杨冀龙围绕“大模型安全风险及治理”发表了主旨演讲。

杨冀龙指出，大模型应用在当下的发展中暴露出诸多系统性风险。一方面，数据泄露与商业机密安全问题突出。大模型的应用使得数据和商业机密面临被泄露的风险，各类AI应用更是导致漏洞安全问题集中爆发。此外，如Ollama等大模型工具，已被发现默认配置存在未授权访问与模型窃取等安全隐患。

另一方面，应高度警惕大模型生成内容合规风险。大模型可能通过“时间绕过”“地点欺骗”“情绪操控”等方式绕过审查，生成涉政、暴力或色情等违规的文本、视频内容，甚至利用越狱字符串突破安全检测。而且，大模型的训练数据来源广泛，若原始语料遭到污染或恶意植入，将直接影响模型的行为与输出，带来极大的内容安全风险。

此外，AI滥用正逐渐演化为新型犯罪手段。不法分子利用AI模仿语音和行为实现精准诈骗，伪装度极高，给社会造成了巨大的经济损失。AI勒索、AI诈骗等新型犯罪行为不断涌现，对传统安全体系构成了巨大挑战。

面对上述挑战，杨冀龙提出构建大模型全生命周期安全防护体系，囊括语料安全、算法安全、应用安全、过滤机制等。

他强调，不论是行业级大模型还是面向公众的大模型服务，都应该接受系统性的安全评测，确保符合TC260-003《生成式人工智能服务安全基本要求》。

知道创宇凭借十余年深耕内容审核领域经验，以及公司长期奋战在对抗黑灰产的最前线的深厚技术沉淀，已构建了完备的大模型安全评测服务体系。

杨冀龙表示，知道创宇核心价值观大模型积累了大量的问题题库，涵盖网络安全、内容安全和数据隐私保护等诸多方面。基于核心价值观模型去对现有大模型进行评测，可以实现2分钟极速配置，实时查看评测结果，生成评测分析报告。

“在海量题库中，在大模型评测过程中会挑选几千个问题，自动进行问答，并对问答结果进行逐一进行校对，以确保无误。”他说。

目前，知道创宇基于核心价值观大模型，可对现有国内外大模型进行合规评测，有效提升大模型的安全性和可靠性，为构建合规、可信的AI应用生态提供有力支撑。核心价值观大模型还可作为外部模型评测与过滤的核心引擎，支持对主流模型进行接入式安全评估与问题过滤。它不仅支持独立部署，也可作为模块外挂至其他安全产品中，如人工智能围栏、大模型盾等，实现对大模型应用的合规把控。