0x01 新闻

OpenAI 的 ChatGPT 上线 2个月，活跃用户突破 1亿，吸引全球关注，2023年2月7日奇安信集团公众号发文称正在基于 ChatGPT 技术和海量安全知识积累训练 “类ChatGPT” 自有模型

文中称，训练 “安全版” ChatGPT 将有助于提升安全产品的技术水平，提高安全产品的性能和可用性，并有助于加强网络安全领域的研究和发展，此外，训练的 “安全版” ChatGPT将在未来应用于奇安信的各类业务中，比如：安全产品开发、漏洞挖掘、自动化安全运营、威胁情报、涉网犯罪分析等业务，这项技术由奇安信人工智能研究院负责开展，最终此项能力是否对外开放仍是一个未知数

同时，今天百度也宣布推出新产品「文心一言」（ERNIE Bot），它是基于百度的文心（ERNIE）语义理解平台构建的 “类ChatGPT”产品，据悉，此项目将在今年三月底完成内测并对公众进行开放。此外，Google 也放出了它们的对话AI —— Bard，各大厂以 ChatGPT 为 “发令枪” ，在一条新的赛道又开始 “卷” 了起来

0x02 我的一些想法

以下个人主观感悟，与文中所提及的组织和企业无关

ChatGPT 的主要特点在于它可以记忆上下文信息，在对话中可以根据记忆进行自由联想，它能够以更自然的方式与用户对话，对于安全人员来说，就是像是在请教一个无所不知的前辈，甚至可以使用它帮助你直接实现某些想法，这种工作模式大大的减少了大家学习某些未知技术或知识点时的成本

同时这类工具也并不是十全十美的可以解决所有问题，像是 ChatGPT 有时会给出看似合理、但并不正确或甚至荒谬的答案，我写这篇稿子时我也使用了 notion 提供的 AI 功能（需要申请），会凭空的造出一些不存在的信息，可能与模型大多数训练数据是在2020年有关

所以想完全依靠这类工具完成工作也是不现实的，至少现在来说还不可以，很多答案需要自行甄别才能判断正误，特别当本身用户处于未知状态来咨询模型时，更加无法判断真伪，对于目前来说， ChatGPT 仍然起到一个辅助的作用，纵使如诸葛亮般神机妙算料事如神，终究也是为其君主刘备服务，而不能自己大权独揽，最终也只是 “抛掷南阳为主忧，北征东讨尽良筹 ”

而且这类工具的合规问题也变得日益严峻，虽然 AI 不会主动的去散播负面和有害的信息，但难免会被别有用心的人利用，往小了说有 AIGC 画色图带来的版权和不良信息问题，往大了说AI 可以帮助进行网络犯罪（写黑产脚本、木马免杀…）

即使工具提供方会设置一些障碍让 AI 拒绝回答敏感问题，但是依然有人会去尝试绕过这类限制，在 Github 上就有很多绕过 ChatGPT 限制的方法，将ChatGPT变成DAN（Do Anything Now），相信绕过 AI 限制会发展一个主流的安全问题，甚至被上升到 “漏洞级别” ，以后说不定就会有“AI 对话安全研究员” 这类职业出现

总而言之，ChatGPT 对于技术人员来说是一把双刃剑，它可以帮助安全人员减少学习成本，打破互联网中的文化&技术障碍，但是如果不加以限制放任其野蛮生长，必然其危害会刺伤我们自己，同时我也相信 AI 终将有一天会由 “550W” 变为 “Moss” ，带我们走向更远的边界