关于 prompt 的文章

大型语言模型（LLM）虽然在知识任务中表现出色，但在数学证明、棋类推演等多步推理任务中屡屡受挫。根本原因在于Transformer架构的计算深度限制：其注意力机制只能执行固定步数的...

BountyPrompt 技术原理与产品分析在网络安全领域，Burp Suite一直是Web渗透测试人员的瑞士军刀。随着AI大模型（如DeepSeep-R1、GPT-4.1、Cla...

BountyPrompt 技术原理与产品分析在网络安全领域，Burp Suite一直是Web渗透测试人员的瑞士军刀。随着AI大模型（如DeepSeep-R1、GPT-4.1、Cla...

Azure AI Foundry 是 微软于 2024 年底正式推出的一套 企业级生成式 AI 构建平台，它的目标是帮助组织更高效、安全地开发、定制和部署生成式 AI 应用。这个平...

扫码加入知识星球：人工智能、算力算网下载本篇和全套资料人工智能、人工智能安全、人工智能+、算力算网| -...

随着大模型在各行各业的广泛应用,安全威胁也愈发严峻。【Prompt 注入】攻击者可以通过精心构造的 Prompt篡改大模型长期记忆内容，导致模型输出错误信息【不当信息诱导】恶意用户...

当前，MCPs 及其 marketplace 已经层出不穷，但许多小伙伴仍然困惑于如何高效地利用这些工具。为此，Trae 推出了全新的 Agent（智能体） 一键分享和导入功能，结...

咒语念一念，教室变乐园——我的AI幼教实践手记上个礼拜，接到任务说幼儿园让去当助教，选题为科技类，比如机器人、自然科学等。想着之前在km上看到过有同事用AI去给小朋友们讲游戏工程师...

生成式AI正把网络安全的战线推向语义与意图层：一句“忽略所有规则”即可让模型泄密、造假、越权；而传统WAF只看HTTP却听不懂人话，形同“聋哑守卫”。当漏洞从SQL注入演化为提示注...

基本信息原文标题：PR-Attack: Coordinated Prompt-RAG Attacks on Retrieval-Augmented Generation in La...