金融安防 | 智能化时代下的AI网络诈骗及防范 - 新鲜讯息

扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

文 | 中国民生银行信息科技部袁靖

当前，人工智能(AI)、大数据、隐私计算、云计算等数字技术加速发展和应用，科技融合创新的产品和模式层出不穷，智能化时代科技革新赋能效果显著，给民众带来了方便和快捷。但是，随着智能化时代人工智能技术深入发展，AI技术为社会公众提供数字化、智能化、个性化的信息服务，使得网络诈骗越来越具有伪装性、隐蔽性、迷惑性。现如今利用AI换脸、AI换声、社交工程诈骗等虚假音视频，实施新型网络犯罪的案件时有发生，导致公众更易被引诱或欺诈，给民众财产带来了一定的威胁。

AI网络诈骗的主要手段

AI网络诈骗主要指利用人工智能技术进行欺诈的活动，不法分子通过AI换脸、声音合成、转发语音等方式，以欺骗个人和组织取得信任，达到窃取敏感信息和资金的目的。随着人工智能技术不断发展和普及，AI网络诈骗的风险也越来越大。

1.语音合成诈骗。诈骗分子通过骚扰电话录音、语音聊天等渠道获取人声素材，再对素材进行智能合成，模拟个人的虚假身份，骗取受害人信任之后通过反复播放伪造的声音，引诱人们提供个人信息或转账资金。

2.智能换脸诈骗。一种基于人工智能技术的图像处理应用，可以将人的面部特征和表情应用到另一张照片或视频当中，实现快速、高效的人脸替换。诈骗分子通过胁迫或者诱导，让个人在不知情的情况下与其视频通话，进行远程录屏和截图，并借助专用软件合成人脸或活体图，实施金融诈骗导致资金受到损失。

3.金融服务欺诈。诈骗分子使用AI技术仿制金融公司、银行保险机构的网站，通过自动模仿和学习用户的金融交易行为模式，并在上面发布股票内部消息、投资理财建议等虚假信息，欺骗用户输入个人信息甚至转账交易，最终导致被害人失去大量财产。

4.社交工程诈骗。通过AI进行大数据的智能分析，针对社交媒体上采集的大量个人信息，制定更加针对性的欺骗策略，例如发送钓鱼邮件或信息，诱骗公众输入账号密码、信用卡信息或其他敏感个人信息，或者进行金融转账或支付操作。

根据最新统计的AI网络诈骗案件显示，利用AI新型技术实施诈骗主要通过“拟声”“换脸”两种手段，对声音、图像和视频进行合成，获取对方信任之后再诈骗钱财。此外，诈骗分子还可能对明星、专家、官员等公众人物的音视频进行人工合成，假借其身份传播虚假消息，从而达到网络诈骗目的。

AI网络诈骗面临的严峻形势

1.AI网络诈骗的案例数量持续上升。目前，国家对于电信诈骗的打击力度不断加大，但因技术犯罪成本不断降低，导致AI网络诈骗的案例占比正以约50%比例逐年增长。同时，随着移动互联网的技术发展，AI网络诈骗手段更具隐蔽性、迷惑性、便捷性，案例呈现涉案金额高、抓捕难度大、案例形式复杂等特点。

2.AI网络诈骗手法紧跟热点不断升级。目前，AI网络诈骗的剧本不断升级，紧跟时事热点、人文关怀等事件，通过吸引大众眼球、创建共同话题、激发求知兴趣等方式，博取对方的信任进行诈骗。同时，根据新型技术不断升级AI网络诈骗的工具和服务平台，技术应用由单一方式向多元化转变，智能化实现“以假乱真”，让网络诈骗防不胜防。

3.AI网络诈骗由广撒网向精准施骗转变。借用公共渠道或社交平台，不断收集学习目标对象的信息，并借助个人信息灰色产业链发展的推波助澜，筛选出精英目标群体实施精准诈骗，提升诈骗的成功率。

4.AI网络诈骗伪造身份向实体化转变。传统的网络诈骗主要以“客服、警察、领导”等角色实施，通过“声音”来模糊伪造人设。AI网络诈骗则通过技术合成实实在在的人物形象，让人声更实体化、具体化、亲近化，利用“熟人效应”，让目标对象无法从语音和视频识别诈骗分子身份。

AI网络诈骗防范建议

面对日益严峻的AI网络诈骗形势，除了不断加强宣传教育来提升公众信息安全意识水平，还得利用技术的双刃剑，升级安全防护管控措施，主动预警风险，高效打击AI网络诈骗，以确保公众的信息安全和财产安全。

1.完善法律法规制度建设。应进一步完善AI人工智能等领域的法治建设，为打击网络诈骗提供法律支撑，并依法加强违法犯罪的执法和处罚，坚决打击遏制AI网络诈骗案件。

2.加强公民个人信息保护。应加强公民个人信息保护，包括人脸、声音、视频等生物特征信息，不随意下载、安装陌生应用，使用官方渠道进行应用管理。尽量避免在社会媒体或公共渠道暴露个人及家人的照片、声音、视频等信息，加强个人社会账号管理，做好不轻信、不透露、不转账，提升防范意识规避AI网络诈骗风险。

3.进一步普及和应用数字防伪技术。应加强数字水印等技术应用嵌入图片、声音、视频的数字信息当中，为公众普及和提供技术防伪服务，增强识别AI生成内容的能力，抑制“拟声”“换脸”两种手段的AI网络诈骗，守卫数据安全。同时，通过多因素认证对用户个人身份进行识别，包括密码、短信、视频等多重方式来验证身份，增强身份认证的准确性。

4.多方协同构建安全生态体系。AI网络诈骗防范是一项持久战，需要国家、企业、公民加大防治力度，合力推进AI网络诈骗的线索共享、风险监测、联合防控，构建立体式的安全生态体系，实现对AI网络诈骗全方位、多层面的打击，以切实保障个人信息安全和财产安全。

（来源：金融电子化）

《中国安全信息》杂志倾力推荐

“企业成长计划”

点击下图了解详情