人工智能工具缺陷给私有大型语言模型（LLM）和聊天机器人带来安全隐忧
企业正探索利用私有大型语言模型（LLM）来帮助员工通过对话界面从非结构化数据中提取信息。然而，如果安全控制措施不当，可能会面临数据投毒和潜在的数据泄露风险。专家警告，未正确强化平台...
admin
安全和可靠的大型语言模型（LLMs）全球挑战赛拉开帷幕，等你来战！
AI Singapore (新加坡全国人工智能核心) 及与CyberSG研发项目办公室（CRPO）合作，隆重推出 “安全和可靠的大型语言模型（LLMs）全球挑战赛” ！这是一次为期...
META 推迟使用欧盟用户共享的公共内容训练其 AI
Meta 宣布，根据爱尔兰数据保护委员会 （DPC） 的要求，它将推迟使用成年人在 Facebook 和 Instagram 上分享的公共内容来训练其大型语言模型 （LLM）。“D...
用ChatGPT做数据太爽了，免费账号GPT4.0，我上车了！
随着中国首部《人工智能示范法》发布半年后重磅更新2.0，人工智能的发展正以惊人的速度向前推进！01AI2.0时代已经来了！2024 年《政府工作报告》中提出开展“人工智能+”行动。...
美国西北大学&蚂蚁集团 | GPTFUZZER：红队方式自动生成大型语言模型越狱提示词
title研究概述现有大语言模型（LLM）针对“越狱”攻击，进行了周密的防护，已公开的人工编写的越狱指令很快就被升级后的LLM所防御。文中测试了gpt-3.5-turbo-0301...
每周蓝军技术推送（2024.3.30-4.12）
内网渗透SCCM 漏洞利用：通过自动客户端推送和 AD 系统发现来入侵帐户https://www.guidepointsecurity.com/blog/sccm-exploit...
OWASP 大语言模型人工智能应用Top 10 安全威胁（回复llmtop10下载文件）
背景 2022 年底，随着ChatGPT进入大众市场，人们对大型语言模型 (LLM) 的关注尤为浓厚。渴望利用大语言模型潜力的企业正在迅速将其整合到其运营和面向客户的产品中。然而，...
生物技术与人工智能融合产生新兴生物安全风险
近年来，基因组和蛋白质组学等生物数据量呈指数级增长。人工智能在数据存储、管理、整合和分析等方面的出色表现使生物科技领域对其的需求激增，推动生物领域数字化、智能化转型。然而，生物技术...
第37期 | GPTSecurity周报
GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大型语言模型（LLM）等安全领...
第36期 | GPTSecurity周报
GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大型语言模型（LLM）等安全领...