关于 对抗样本 的文章

政企在自研、采购大模型与智能体建设过程中，普遍面临四大安全测评难题：1.AI独有风险繁杂，传统测试手段失效大模型具备开放式输入、概率输出、多轮上下文、工具协同四大特征，风险横跨模型...

随着人工智能能力越来越强，甚至达到接近人类智能的水平，AI系统在网络安全方面带来的问题也越来越多，引发了人们对AI系统网络安全的广泛关注和思考。而现阶段要确保AI系统的网络安全面临...

前言2025年8月，全球安全圈的目光正聚焦于大洋彼岸的三大安全会议——Black Hat、DEFCON、Usenix Security2025。  Black Hat与DEFCON...

如今，AI已深度融入全球民众日常生活。智能语音助手、AI辅助医疗诊断、无人驾驶汽车等应用场景不断拓展，为人们带来便捷与效率。然而，在AI技术快速发展的同时，数据泄露、隐私侵犯等安全...

引 言工业大模型正成为智能制造的新型基础设施，但其安全漏洞可能引发产业链级灾难：某汽车工厂因工艺优化模型遭数据投毒攻击，导致300台机器人关节参数集体超差。本文将围绕“数据-算法-...

本次分享论文为：Visual Adversarial Examples: Jailbreak Aligned Large Language Models基本信息原文作者：Xiang...

2022 年 3 月以来，以 DALL. E2、Stable Diffusion、ChatGPT 等为代表的预训练大模型席卷全球，引发了人们对于通用人工智能的广泛关注，人工智能生成...

全文共5495字，阅读大约需10分钟。  //  随着大模型能力的不断增强和适用范围的延伸，大模型中存在的微小安全隐患会造成巨大损害，大模型安全问题引起了广泛关注，各界对大模型潜在...