两封钓鱼邮件：职业补贴自助系统和职工企业人社金发放表1

最近，我们诸子云会员深圳群中，某券商安全专家发了一条消息，引起了群内广泛探讨。其消息具体如下：

“我们新近发现一封钓鱼邮件，无正文、无内容，仅有一个二维码。二维码是个“职业补贴自助系统”，二维码地址也未被识别为恶意，骗取个人信息和银行账号。28号发现，29号发送IP才被情报识别为恶意。”

“有同行还发现，钓鱼邮件里面的二维码被拆成2张图片，更加增加了检测难度。供大家参考，要注意加强防护和员工提醒。”

该名专家还贴心放出了相关截图，文件名也完整显示了出来。具体如下图所示：

接着，该话题便引发了群内的相关讨论。我们直接放出一部分聊天截图（我们已经有分布于全国十几个主要城市的诸子云会员社群，欲要加入，与安全业界人士互动交流，可与我们联系申请）。为了保证会员群的隐私，相关昵称和头像均打码处理。

聊天内容的方向显而易见，主要集中于钓鱼邮件绕防检测用了新方法、怎样提高企业员工的防范钓鱼意识、如何实施有效的安全控制、黑灰产钓鱼攻击用上了AI技术等。

无独有偶，近期我们安在创始人张耀疆也遇到了一起钓鱼邮件的欺诈。他收到了一则来自熟悉同事的电子邮件，其附件是一份名为“职工企业人社金发放表1”的PDF文档。

因为是熟人，张耀疆即刻将附件下载，转发给了相关部门的同事进行处理。

当天，张耀疆意识到不对劲，提醒同事是不是诈骗。好在同事安全意识较高，使用网络查询相关信息，且扫码之后未做进一步操作。

诸子云群内许多业内安全专家判断，类似这些钓鱼邮件，大多离不开AI的加持。

事实上，随着近年来AI技术的突飞猛进，钓鱼邮件事件的发生确实呈现大规模的涨幅。

去年，网络安全公司Darktrace公布了一项研究报告，指出钓鱼邮件等社会工程攻击数量出现爆炸式增长，涨幅达135%。而导致钓鱼邮件大幅增长的主要原因，正是以ChatGPT为代表的生成式人工智能。

去年8月，国际安全研究团队Perception Point与Osterman Research公司联合发布了名为《人工智能在电子邮件安全中的作用》的报告。该报告揭示了网络犯罪分子如何利用AI来增加和复杂化电子邮件威胁（如网络钓鱼和BEC攻击）的惊人趋势。

此项研究指出，网络罪犯正在迅速采用AI工具以推动其利益，而有91.1%的组织称他们已遭受到了被AI增强的电子邮件攻击。

今年初，网络安全公司Enea发布的一份报告给出的数据更为惊人。其认为，随着以人工智能驱动的语音钓鱼（vishing）和短信钓鱼（smishing）攻击激增，自2022年11月OpenAI发布ChatGPT以来，网络钓鱼（phishing）攻击整体增加了惊人的1265%。

其中，Darktrace研究指出，攻击者能够通过利用人工智能，通过增加文本描述、标点符号和句子长度，高效生成更加难以分辨的钓鱼邮件。

在Darktrace报告中，该公司研究了英国、美国、法国、德国、澳大利亚和荷兰的6700多名员工，其中有82%的人担心黑客可以使用AI来创建与真实通信无法区分的诈骗电子邮件。

该报告还指出。全球30%的员工过去曾因欺诈性电子邮件或短信而上当受骗。

此外，87%的人担心在线提供的有关他们的个人信息量可能会被用于网络钓鱼和其他电子邮件诈骗。

需要注意的是，在过去6个月中，随着以ChatGPT等人工智能被攻击者利用，不少邮箱开始增加垃圾邮件过滤器的敏感度，这反而导致有79%的公司出现了重要的合法邮件被错误阻止的情况。

安全公司 Abnormal 前不久也发布一份报告，声称如今“AI 钓鱼邮件”愈发泛滥，许多黑客利用各种模型批量创建钓鱼邮件，之后使用脚本群发相关邮件，从而实施“高效率”网络诈骗活动。

该公司研究人员举例 WormGPT、FraudGPT 等“专为网络犯罪而生”的恶意 AI 工具，声称当下黑客已经将生成式 AI 融入到攻击策略中。

Abnormal报告显示，传统的钓鱼邮件通常使用相同的域名，正文拥有固定模板格式，整体邮件内容和风格较为统一，因此相当容易被安全软件标记拦截。而黑客利用 AI 生成的钓鱼邮件，则显得相当独特，甚至每一篇都不一样，因此难以被传统安全软件乃至人类所察觉。

这其实就是定制化的钓鱼邮件的威力。最关键的是，以往定制化是由人力来创造，效率不高，自然钓鱼的频次就不会太高。而现在，AI可以批量进行个性化定制，大规模针对性钓鱼，这样的诈骗行径得以十倍百倍地传播，自然得手率也会激增。

Abnormal报告还认为，AI 编写的内容中出现“语法和拼写错误”的概率相对人类反而更少，因此受害者更容易上当。

据IBM 的一项新研究表明，当前的生成式人工智能(AI) 模型已经非常擅长编写看似高度可信的网络钓鱼电子邮件，并且可以为攻击者节省大量时间。相关数据表明，71%的AI检测器无法检测出ChatGPT撰写的钓鱼邮件。

更为不妙的是，恶意技术还在不断进步。比如前段时间，一个国际网络安全团队研发出了新型AI蠕虫病毒，其能够在生成式AI服务之间独立传播、窃取数据并通过电子邮件发送垃圾邮件。

如上种种，让我们不得不面对一个事实：AI撰写钓鱼电子邮件，不仅写得快，还写得非常真实可信。这样的案例在互联网上数不胜数。

去年9月，有不少卖家称收到伪装成亚马逊官方的“钓鱼邮件”，通过提供的恶意链接，提取卖家的重要账户信息。有人因此上当，在短短一夜之间损失高达40万。

卖家苏丹在收到的邮件中，发件地址与亚马逊官方地址高度相似，内容更是精巧地仿制了亚马逊的通知风格，敦促卖家更新紧急联系人信息。

按照邮件中的指引操作，会被引导到了一个似乎是“亚马逊”的网站，并被要求输入自己的邮箱、密码以及二次验证码。一旦上当，很快就会收到亚马逊官方发出的“店铺异地登录”通知，与此同时，意味着卖家已经被钓鱼成功，信息泄露已成既定事实。

对此，电子邮件安全公司Abnormal Security的CEO Evan Reiser指出，由生成式AI平台制作的精细钓鱼邮件几乎与真实邮件无异，使人难以一眼辨识。他表示：“当你浏览这些邮件时，大脑中并不会产生任何提示，警告你这可能是一次网络钓鱼攻击。”

可怕的是，避免语言错误只是生成式AI在钓鱼邮件上展示的基本技能，更强的欺诈和混淆能力更为强大。

得益于AI模仿人类书写的能力，钓鱼邮件的内容可能包括制造紧迫感、鼓励收件人点击链接、伪装为汇款请求的社交工程邮件等。一旦收件人点击链接，系统就可能受到恶意代码的感染。

上述伪造亚马逊邮件的场景中，便是被AI制造了对于卖家而言比较急迫的场景。不少卖家在仔细审查邮件内容后，虽感到不太对劲，但由于担忧可能错过了某些重要信息，还是按照邮件中的指引操作。

另外，生成式AI还能够使钓鱼邮件更具攻击性。它们可以从社交平台、新闻门户、网上论坛等多种来源中抓取个人信息，以针对性更强的迷惑邮件。而这在以往通常需要数月时间才能完成。如果攻击者能够掌握这类专有信息，他们可以在钓鱼邮件中植入更具说服力的细节内容，或是模仿某人的写作方式。

Evan Reiser指出：“目前，犯罪者只需捕获这些电子邮件，自动喂养到一个大模型中，接着指示它构建一封引用最近五次在线对话的邮件。这样之前可能需要8小时完成的任务，现在只需8秒。”

即使是技术能力有限的攻击者，也可以利用生成式AI来编写VBA代码。他们只需指示AI将恶意URL嵌入到代码中，当用户打开如Excel这样的文件时，系统会自动下载并执行恶意软件。

面对日益强大的AI创造钓鱼邮件的现状，我们应当如何防范呢？

业内人士认为，当下“使用 AI 对付 AI”的方案可能更加有效，即利用 AI 过滤“可能由 AI 创建的钓鱼邮件”。但是，也有业内专家表示，目前相关检测手法存在“误杀率”，100% 判断邮件内容是否由 AI 创建“几乎是不可能的”。

虽然百分百防范不可能做到，但能够减轻降低AI钓鱼邮件的侵害，那也有必要的价值。

当前，据我们了解，许多安全厂商采取了一系列识别AI钓鱼邮件的方式。

比如，某安全厂商为了洞察每个发送者和接收者的习惯和特性，一个AI模型被设计出给组织中的每位成员绘制通信模式。

具体来说，谁会给他们发信息？信息内容是什么？何时和从哪里发送这些消息？通常有其他人被抄送还是只有一个目标接收者？每位发送者使用哪些电邮地址？简而言之，AI被用于构建关于每个人常规行为的档案。

另外，为了察觉不常见的邮件发送模式，该安全厂商结合了以下策略：利用社交图技术进行基础发送模式的分析；识别相似或相近的电子邮件地址；鉴别包含社交工程技巧的信息；检测冒名顶替的标记和其它品牌相关的视觉元素；以及对电子邮件中的语气、情感和风格进行分类。

以上策略都有助于检测那些旨在混淆人类思维的异常邮件。

尽管接受过安全意识培训的人力也可以找到这些异常信号，但只有AI能够整合所有分析维度，确保在面对海量消息时能够持续并可靠地执行检测。

还有厂商的解决方案是，利用多个机器学习模型，来识别带有恶意内容的信息。这些模型是基于被标记为恶意或无害的信息数据集进行开发、调整和更新的。采用生成式AI技术，从已知的恶意信息中产生附加的样本数据，这为机器学习模型提供了更为丰富的优质训练数据。

另有安全厂商采取的方案是直接对邮件打上“防伪标志”，认为邮件安全证书或许是最优解。

具体来说，即Secure/Multipurpose Internet Mail Extensions，简称S/MIME，是一种用于加密和验证电子邮件的数字证书。

其通过使用S/MIME协议，对电子邮件本身进行数字签名和加密，可以确保邮件内容在传输过程中不被窃取或篡改，同时也可以验证发送者的身份，防止伪造邮件，从而保证邮件通信安全，保护个人和组织的机密信息不被泄露。

国内某安全厂商采取从邮件的 “意图”入手，即拥有了“意图”识别的能力。

“意图”是智能系统中的高级词汇，像狡猾、绕行、伪装、定制等等，都带有某种意图在其中，也是高级智慧在“恶”的层面的体现。所以，如果能防住钓鱼邮件的“意图”，则便能超脱于过往的死规则，达到智慧的高度。

该厂商从钓鱼邮件综合意图评估和研判，如正文语义意图、URL跳转意图、网页语义意图、附件行为意图等等，再结合投递方式识别、攻击目的分析、视觉特征分析、历史邮件分析，最终达到钓鱼场景分类、异常点解读、意图综合分析，继而给出响应处置建议。

安全与黑产的斗争由来已久，但是，生成式AI刚爆发一两年，更多黑产组织正在慢慢融合新型AI技术，他们也需要时间和人力物力来准备。

所以，我们可以说，安全与黑产AI的战斗仅仅才拉开序幕，真正的战争还很漫长。

可以预见，未来由AI生成的钓鱼邮件将更为泛滥，迷惑性欺骗性也会更强，除了利用更先进的安全工具之外，还需要更强的安全意识。

因为，我们始终认为，再好的安全工具，在欺骗人类方面，也不如安全意识管用。

遇到疑似钓鱼邮件的玩意儿，不妨利用其他社交工具，与对方多询问多沟通。有时钓鱼邮件之所以成功得手，就是抓住当代人类喜欢独立做事、不喜欢沟通的脾性。

愿黑产AI高一尺，安全AI高一丈。