AI安全:Prompt越狱手册
写的非常细致,就是从底层原理出发,教你与LLM斗智斗勇,各种硬核分析和破解思路,感兴趣的可以研读下。地址:https://github.com/Acmesec/PromptJail...
攻击AI必备的工具:指令合集!
GitHub - CyberAlbSecOP/Awesome_GPT_Super_Prompting : ChatGPT越狱、GPT助理提示泄漏、GPT提示注入、LLM提示安全、超...
啤酒·音乐·黑客·大模型!AI赋能,安全护航:大模型应用场景漏洞剖析
在人工智能飞速发展的当下,其应用已渗透至各行各业,极大地改变了人们的生活与工作方式。然而,如同任何新兴技术一样,AI 在带来便利的同时,也伴随着不容忽视的安全风险。近期,腾讯安全云...
告别Prompt焦虑:你的专属AI提示词生成助手来了,免费试用
智擎 - AI 业务场景提示词辅助生成工具您是否也曾遇到过这些情况?想尝试用 AI 提升工作效率,却发现 prompt(提示词)的编写有些复杂,不知如何有效开始?面对不同的 AI...
被全球追杀的第100天,我发现自己是外星文明的钥匙(Prompt)
「你永远不知道,手机里的下一个订单会改变什么——当我第1024次划开接单软件时,命运早已在潮湿的暗巷里布下天罗地网。那把渗着血的量子秘钥,那场持续三百年的星际守望,还有那个说我大脑...
构建可扩展的智能体系统:工程化方法与实践(一)
01.背景在当今快速发展的软件开发领域,人工智能(AI)扮演着越来越重要的角色。尽管AI底层科学有所进展,但仍未有颠覆性突破。当前的大语言模型,如GPT-3.5和LLaMA,主要通...
第84期 | GPTSecurity周报
GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区,集成了生成预训练Transformer(GPT)、人工智能生成内容(AIGC)以及大语言模型(LLM)等安全领域...
从0到1构建RLHF系统——小红书大模型团队的探索与实践
在QCon上海2024大会上,小红书大模型团队分享了自研RLHF系统的设计和优化。本文将介绍,随着LLM的发展,超长文本、多模态、PPO(Proximal Policy Optim...
Agentic AI网络安全,2025最大热门,没有之一
2024 年即将过去,很难否认,最大的趋势之一不仅仅是人工智能、GenAI 或 LLMs,而是 "Agentic AI "或人工智能代理。但是,Agentic AI 到底是什么,为...