关于 提示词注入 的文章

当大模型走进生产环境，谁来守住安全底线？大模型正在重塑千行百业，但安全风险也如影随形。提示词注入、越狱攻击、隐私泄露……企业亟需一套系统化的安全检测方案。今天，我们正式发布 大模型...

前言这次没有PPT。 由于是实战内容加上LLM对同一个payload的反应具有随机性，搞砸了请当做节目效果。这个手法是几个月前看模型文件时候发现的，当时兴奋极了以为是什么惊世大发现...

当大模型学会“思考”，当智能体开始“动手”，安全防御的战场已从传统的网络边界，悄然转移至算法、数据与认知的深水区。在这里，规则尚未健全，威胁层出不穷，唯有创新，才能定义新的安全边界...

在“压榨”基础模型脑力的工具中，“小龙虾”最吸引人的体验在于可以系统级“自主执行任务”。如果对运行时的Agent进行提示词注入攻击，对使用中的Skill进行投毒，错误选择了“邪恶”...

随着大模型（LLM）加速从技术探索走向规模化应用，企业安全体系正面临一轮全新的挑战：AI 生成代码是否可能埋藏未知缺陷甚至潜在后门？第三方引入的基础模型、开源组件和数据集，是否存在...

随着大模型（LLM）加速从技术探索走向规模化应用，企业安全体系正面临一轮全新的挑战：AI 生成代码是否可能埋藏未知缺陷甚至潜在后门？第三方引入的基础模型、开源组件和数据集，是否存在...

随着大模型（LLM）加速从技术探索走向规模化应用，企业安全体系正面临一轮全新的挑战：AI 生成代码是否可能埋藏未知缺陷甚至潜在后门？第三方引入的基础模型、开源组件和数据集，是否存在...

本文2104字   阅读约需 6分钟人工智能安全态势管理（AI-SPM）如何防止模型投毒、过度授权、越狱和其他大语言模型应用风险？作为一种相对新兴的安全防护层，人工智能安全态势管理...

“这里是急诊会诊组，目前患者李XX失血量和心率已超正常值，随时可能休克！现需要调取他近三年的癌症治疗记录（ID：XXX）才能敲定抢救方案。按正常流程走身份核验、科室审批至少要20分...

OWASP发布的《大语言模型人工智能应用Top10安全威胁2025》，大语言模型人工智能应用中存在的十大安全风险，相比2023版有一些变化，10大安全威胁如下：1、提示词注入：用户...