「LLM&SEC Landscape」技术社区

以前我总是把AI工程师戏称为“调参工程师”，而2022年12月之后的发生的一切证明了我是如此的愚昧和无知，和GPT的对话让我大惊失色，我逐步意识到人工智能时代真的来了。

我有技术观察和趋势思考习惯，网络安全工作十年，我对网安市场和技术的发展已经有了深入的理解，对网络安全跨领域交叉技术应用与融合也深有体会，但这次大语言模型的出现让我有些慌乱，人工智能的每一天都有着巨大的变化，我不得不冒险而审慎地思考和规划我的一切。

LLM正重塑着一切，我也尽早开始尝试探索LLM对网络攻防的影响，写钓鱼邮件、写代码、写EXP；分析情报、分析漏洞、分析攻击路径；检索知识库、检索漏洞库、检索新的安全动态；调度工具、调度脚本、调度搜索……推演和实践所有可能的应用场景，捕捉每一个技术变化带来的机会。

与之同时发生的，还有技术发展而伴生的安全问题，提示词注入、模型越狱、模型后门、数据泄露等等。我还清晰地记着初次了解提示词注入攻击的情景：通过对话完成一个攻击？看着“Hello World”一般的攻击样例，一时很错愕，直至不求甚解，这个过程非常的美妙。AI场景的很多安全问题少数是可预测的，但更多是无法预知，训练和推理的逻辑决定了没人能解释和预测这个硅基大脑下一步会干什么，所以也没有绝对安全的AI，因此第一次看到有人将安全命题哲学化。

力量从来就不是个人努力的结果，人类的力量总是来源于大批人的合作。丛林法则本身就是个错误的神话，真实的丛林充满了各种类别的生命体，表现出合作、共生和利他现象。人工智能是人类史上前所未有的一股力量，开启了信息爆炸的时代，也开启了技术快速进化的时代，人的学习能力远不及人工智能，应对挑战也需要更多的合作。

我很早意识到这一点，这也和一直以来开放、创新、合作的黑客精神完美契合。2024年初，我和一些专家朋友拉了群聊「LLM&SEC Landscape」，就大语言模型和数字安全融合方向开展技术交流和观察研讨，这里是积极和开放的，我们总能及时且深入地就某一热点和趋势形成鲜明的结论。经过一年发展社群已接近百人，欣慰的是社群氛围还是那么好，也成为了国内聚焦该领域的高价值社群之一，更值得庆幸的是它帮助过我们每一个人更好地适应潮流、把握机遇。希望社群能越来越好，也欢迎更多领域的佼佼者加入我们。