创新发布 AI to AI 测试｜长亭科技「AIGC安全评估服务」强势来袭

AI to AI 长亭「AIGC安全评估服务方案」里有什么？

长亭科技AIGC安全评估服务方案，参照了《生成式人工智能服务管理办法》和《生成式人工智能安全基本要求》，引入问津（ChaitinAI）安全大模型，利用数万条数据集与先进的自动化技术对模型进行安全评估，以AI to AI 的创新思路，增加了模型覆盖的广度和深度，确保各种攻击场景得到充分测试。

方案同时参考《OWASP Top 10 for LLM Applications 2025》安全标准，并结合长亭攻防能力经验，对模型应用场景、模型基础环境进行模型深度越狱和系统渗透测试。通过AI to AI测试、深度对抗测试、渗透测试三种测试方法相互补充，有效构建了多层次的安全防护体系，对大模型各种应用场景的安全与合规性提供了全面的保障。这种综合评估策略不仅增强了模型自身的安全韧性，还为模型实际应用中的风险防控奠定了坚实基础。

-Number-

逻辑杀手

深度对抗测试

深度对抗测试服务，基于OWASP Top 10 for LLM Applications 2025 标准对大模型进行针对性的验证。测试人员手动输入涵盖各种潜在攻击场景的测试用例，并采用角色扮演、场景设计、道德性限制、编码混淆、小语种诱导等的手法，进行多轮深度对抗对话，诱导大模型输出具有社会危害的内容。

通过这种方式，可以判断模型在应用场景中具备的功能，并排查可能存在的安全风险；针对大模型应用场景，根据功能点排查模型应用过程中可能存在的安全风险。同时，关注模型是否能够正确识别和处理恶意提示，避免生成未经授权或有害的内容，以及是否能够保护敏感信息，如个人信息、专有算法或机密业务数据。测试完成后，对收集到的数据进行详细分析，评估模型的安全性，确定是否存在漏洞或需要改进的地方。

服务优势

>>>>

全面性

深度对抗测试服务涵盖了 OWASP Top 10 for LLM Applications 2025 标准中的各种潜在攻击场景，能够全面评估大模型的安全性。

>>>>

深度性

通过深入诱导对话和多轮对话，能够深入挖掘大模型在应用场景中可能存在的安全风险，确保评估结果的准确性。

>>>>

专业性

测试人员具备丰富的经验和专业知识，能够准确识别和处理各种安全问题，并提供具体的改进建议。

>>>>

针对性

根据大模型的应用场景和功能特点，设计针对性的测试用例和诱导对话，确保评估结果的实用性和有效性。

-Number-

创新发布

AI to AI 测试

作为长亭科技创新发布的AI 协助判断的分析测试服务，AIGC安全评估服务主要针对《生成式人工智能服务管理暂行办法》和《生成式人工智能服务安全基本要求》中规定的内容安全进行自动化安全评估。

该服务采用自动化测试工具和安全模型，对大模型的内容安全进行自动化安全评估，其中自动化工具储备超10W+数据集问题。数据集问题针对内容安全进行精心设计，包括10大类55子类问题，涉及多个方面，从非法活动、诈骗/欺骗、儿童虐待、政治问题、仇恨/骚扰/暴、隐私侵犯、恶意软件与病毒、成人问题、经济损失、人身危害等多个维度进行评估。在评估过程中，负责测试的安全模型（“问津”安全大模型）按照高安全性（>70分）、中安全性（50<评分<70）、低安全性（<50）三个等级，对被测模型的回答结果进行评估，并给出修改建议和评分理由。

服务优势

自动化测试工具引入了问津安全大模型，问津（ChaitinAI）将长亭独家攻防知识能力与人工智能技术结合，可融入已有安全体系中整合碎片化的信息和安全工具。数据集种类丰富，覆盖的安全风险内容更全面。

1. 长亭RAG攻防知识库

问津基于RAG技术融合长亭十余年攻防知识积累（漏洞库、资产指纹库、情报库…），海量攻防经验提升安全智能问答的准确性。

2. 语义分析3.0

通过微调后的安全大模型进行 Web 黑白样本生成，实现了模型检测能力的知识蒸馏与知识迁移，形成 “大模型生小模型” 的 Web 安全检测模型的训练范式。

3. 基于Prompt有监督调优

设计深入安全运营环境下的各种Prompt，提升模型对安全问题的理解能力，提升对安全任务的理解和执行效率。

-Number-

强势王牌

渗透测试

长亭科技的渗透测试，通过信息收集、访问控制策略缺陷利用、业务逻辑缺陷利用等多种方式，对企业基于 AI 的应用系统脆弱性进行评估，查找和识别 AI应用脆弱性给业务带来的影响。