犯罪分子利用生成式人工智能实施复杂的欺诈计划

美国联邦调查局互联网犯罪投诉中心 (IC3) 发布了一份公共服务公告，强调犯罪分子越来越多地使用生成人工智能 (AI) 来提高欺诈活动的规模、可信度和覆盖范围。

这些旨在创建逼真的合成内容的 AI 工具正被用于涉及社会工程、金融欺诈、身份盗窃和性勒索的计划。

生成式人工智能使用数据输入来合成令人信服的文本、图像、音频和视频。

虽然这些工具是合法的，并且有合法的用途，但它们的功能允许犯罪分子绕过传统的欺诈警告信号，例如语法错误或不切实际的视觉效果。

通过利用人工智能，欺诈者可以快速大规模地制作高质量的虚假内容。

联邦调查局已经发现了生成人工智能被滥用的几种方式，包括：

• 人工智能生成的文本：用于鱼叉式网络钓鱼电子邮件、爱情骗局和投资计划；帮助外国行为者克服语言障碍，以更少的错误制作内容；为虚假社交媒体资料和欺诈网站（包括加密货币骗局）提供支持；并使恶意网站上的聊天机器人能够引诱受害者进行有害互动。
• 人工智能生成的图像：为虚假的社交媒体账户创建逼真的个人资料图片；伪造驾照和政府证件等身份证明文件；生成名人或有影响力人士的图像来宣传假冒产品或虚假慈善呼吁；并捏造灾难或冲突图像来骗取捐款。
• 人工智能生成的音频：利用声音克隆在危机情况下冒充亲人，索要钱财，并模仿声音来绕过安全措施，例如金融账户的语音认证。
• 人工智能生成的视频：制作公众人物的深度伪造视频，用于投资欺诈或冒充权威人物，并生成逼真的视频进行实时互动，使诈骗者看起来合法。

防范人工智能欺诈

生成式人工智能的滥用对个人和组织都构成了重大风险。

目标通常包括老年人等弱势群体，他们可能成为骗局的受害者，以及公司和金融机构，他们容易受到高管或员工深度伪造的攻击。

生成式人工智能工具的普及使得诈骗者很容易在全球范围内实施这些复杂的骗局。

联邦调查局建议个人和组织采取主动措施，防范生成性人工智能欺诈：

• 1.与可信任的人建立一个秘密单词或短语，以便在紧急情况下验证身份。
• 2.检查图像和视频是否存在缺陷，例如扭曲的特征、不规则的阴影或不自然的动作。
• 3.通过挂断电话并使用已知的联系方式直接联系组织或个人来验证可疑电话。
• 4.减少您的在线足迹，限制公众访问个人图像和语音记录。
• 5.避免与仅在网上或电话中认识的人分享敏感信息。
• 6.对未经请求的金钱、加密货币或礼品卡请求保持谨慎。

我们鼓励生成式人工智能相关诈骗的受害者向 FBI 互联网犯罪投诉中心 (www.ic3.gov) 提交报告。

报告应包括诈骗者的身份信息、金融交易数据以及详细的互动记录。