关于 prompt 的文章

随着大模型在各行各业的广泛应用,安全威胁也愈发严峻。【Prompt 注入】攻击者可以通过精心构造的 Prompt篡改大模型长期记忆内容，导致模型输出错误信息【不当信息诱导】恶意用户...

当前，MCPs 及其 marketplace 已经层出不穷，但许多小伙伴仍然困惑于如何高效地利用这些工具。为此，Trae 推出了全新的 Agent（智能体） 一键分享和导入功能，结...

咒语念一念，教室变乐园——我的AI幼教实践手记上个礼拜，接到任务说幼儿园让去当助教，选题为科技类，比如机器人、自然科学等。想着之前在km上看到过有同事用AI去给小朋友们讲游戏工程师...

生成式AI正把网络安全的战线推向语义与意图层：一句“忽略所有规则”即可让模型泄密、造假、越权；而传统WAF只看HTTP却听不懂人话，形同“聋哑守卫”。当漏洞从SQL注入演化为提示注...

基本信息原文标题：PR-Attack: Coordinated Prompt-RAG Attacks on Retrieval-Augmented Generation in La...

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大语言模型（LLM）等安全领域...

失败的prompt注入 杂谈 , 5 个人观点，仅供参考 , , ,...

写的非常细致，就是从底层原理出发，教你与LLM斗智斗勇，各种硬核分析和破解思路，感兴趣的可以研读下。地址：https://github.com/Acmesec/PromptJail...

GitHub - CyberAlbSecOP/Awesome_GPT_Super_Prompting ： ChatGPT越狱、GPT助理提示泄漏、GPT提示注入、LLM提示安全、超...

在人工智能飞速发展的当下，其应用已渗透至各行各业，极大地改变了人们的生活与工作方式。然而，如同任何新兴技术一样，AI 在带来便利的同时，也伴随着不容忽视的安全风险。近期，腾讯安全云...