FBI：犯罪分子利用生成人工智能进行金融欺诈

美国联邦调查局(FBI)警告公众，犯罪分子利用生成人工智能(AI)进行更大规模的欺诈，这增加了其计划的可信度。生成人工智能减少了犯罪分子欺骗目标所需花费的时间和精力。生成人工智能从用户输入的示例中获取知识，并根据这些信息合成全新的东西。这些工具可协助内容创建，并可纠正人为错误，否则这些错误可能会成为欺诈的警告信号。创建或分发合成内容本身并不违法；但是，合成内容可用于促进欺诈和勒索等犯罪行为。由于很难识别内容是否由人工智能生成，FBI提供了以下示例，说明犯罪分子如何在其欺诈计划中使用生成人工智能，以提高公众的认知和审查。

人工智能生成的文本

犯罪分子利用人工智能生成的文本，使读者觉得它们可信，从而进一步实施社会工程学^、鱼叉式网络钓鱼、以及金融欺诈计划（如爱情、投资和其他信任计划），或者克服欺诈计划的常见指标。

犯罪分子利用生成式人工智能创建大量虚构的社交媒体资料，用于诱骗受害者汇款。
犯罪分子会创建信息以便更快地发送给受害者，从而让可信的内容覆盖更广泛的受众。
犯罪分子使用生成式人工智能工具协助语言翻译，以减少针对美国受害者的外国犯罪分子的语法或拼写错误。
犯罪分子为加密货币投资欺诈和其他投资计划的欺诈网站生成内容。
犯罪分子将人工智能聊天机器人嵌入欺诈网站，以诱使受害者点击恶意链接。

人工智能生成的图像

犯罪分子利用人工智能生成的图像来创建可信的社交媒体个人资料照片、身份证明文件和其他图像，以支持他们的欺诈计划。

犯罪分子在社会工程、鱼叉式网络钓鱼、爱情骗局、信任欺诈和投资欺诈中为虚构的社交媒体资料创建逼真的形象。
犯罪分子会伪造身份证明文件，例如伪造的驾驶执照或证件（执法、政府或银行证明），以实施身份欺诈和冒充计划。
犯罪分子使用生成式人工智能制作照片，在私人通信中与受害者分享，以让受害者相信他们正在与真人交谈。
犯罪分子利用生成式AI工具创建名人或社交媒体人物的形象，以宣传假冒产品或不送货计划^。
犯罪分子使用生成式AI工具创建自然灾害或全球冲突的图像，以向欺诈性慈善机构骗取捐款。
犯罪分子使用生成式AI工具来创建用于市场操纵计划的图像。
犯罪分子利用生成式AI工具制作受害者的色情照片，以在性勒索计划中索要报酬。

人工智能生成的音频，又称声音克隆

犯罪分子可以使用人工智能生成的音频来冒充知名公众人物或个人关系以索取报酬。

犯罪分子会制作包含亲人声音的简短音频片段，冒充危机情况下的近亲，请求立即提供经济援助或索要赎金。
犯罪分子利用人工智能生成的个人音频片段并冒充他们来获取银行账户的访问权限。

人工智能生成的视频

犯罪分子利用人工智能生成的视频来创建公众人物的可信描述，以支持他们的欺诈计划。

犯罪分子制作视频，与所谓的公司高管、执法人员或其他权威人士进行实时视频聊天。
犯罪分子制作私人通信视频来“证明”网上联系人是“真人”。
犯罪分子使用生成式人工智能工具制作虚假或误导性宣传材料的视频，用于投资欺诈计划。

自我保护小贴士

与家人一起创建一个秘密单词或短语来验证他们的身份。
寻找图像和视频中的细微瑕疵，例如扭曲的手或脚、不切实际的牙齿或眼睛、模糊或不规则的脸部、不切实际的配饰（如眼镜或珠宝）、不准确的阴影、水印、延迟时间、语音匹配和不切实际的动作。
仔细聆听语气和措辞，以区分亲人的合法电话和人工智能生成的声音克隆。
如果可能的话，限制你的图像或声音的在线内容，将社交媒体帐户设为私密，并将关注者限制为你认识的人，以最大限度地降低欺诈者使用生成式人工智能软件为社会工程创建欺诈身份的能力。
通过挂断电话、查明声称给您打电话的银行或组织的联系方式并直接拨打电话号码来验证来电者的身份。
切勿与仅在网上或电话中认识的人分享敏感信息。
不要向您不认识或仅在网上或电话中认识的人发送钱、礼品卡、加密货币或其他资产。

如果您认为自己是金融诈骗案的受害者，请向FBI互联网犯罪投诉中心(www.ic3.gov)提交报告。如果可能，请包括以下内容：