超越深度伪造防御：AI GRC是企业风险治理的解药吗？

安全负责人必须制定多层防御策略以应对深度伪造语音和视频攻击。专家预计，此类攻击的数量和有效性将迅速上升。

国外真实案例：某零售公司财务部员工最近接到“首席财务官”电话，指示其向一家正在收购的目标公司电汇70万美元。这位“高管”强调交易具有高度时效性。虽然要求略显反常，但员工为避免触怒上司，立即执行了转账指令。

问题在于，电话中的声音并非来自真正的首席财务官，而是通过AI生成的极度逼真的深度伪造语音。由于这次攻击，零售商将资金转入了网络犯罪分子的账户——伪造的“首席财务官”提供了能够拦截资金的账户信息，而非真正的收购目标公司。

代表该零售公司的Buchanan, Ingersoll & Rooney律所网络安全与数据隐私业务联席主管Michael McLaughlin指出：“声音的真实性、紧迫感以及首席财务官的权威地位，导致员工既未提出关键质疑也未核实请求。”尽管该财务请求明显偏离标准操作流程，但员工深信来电者身份，仍然完成了转账。数日后，当真正的收购目标公司致电询问款项时，骗局才被揭穿。

为应对此次事件并防范类似攻击，该企业实施了多项措施，包括：建立需要多重审批的强化财务核验机制；通过独立致电已知号码核实所有请求主体；开展定期深度伪造识别培训；以及与网络安全公司合作开发检测工具和响应策略。

此类企业遭遇深度伪造攻击的案例正快速增长，其已不再局限于名人或公众人物。网络罪犯可以随时利用任何人的形象实施犯罪。德勤2024年调查显示，约15%的高管表示其公司在过去一年至少遭遇过一次深度伪造攻击。

该问题已引起美国国会关注。2025年4月，两党参议员团体重新提出立法，旨在解决AI生成的深度伪造音像未经授权使用问题。《反伪造法案》将赋予个人对其数字形象和声音的授权使用权，以遏制深度伪造滥用。法案规定：未经许可制作个人数字复制品需承担法律责任；平台在明知数字复制品未获授权的情况下仍予托管需担责；并建立统一的全国性标准取代各州现有法规。

在已知最大规模深度伪造攻击中，工程集团奥雅纳因视频会议诈骗损失2500万美元，攻击者使用了伪造语音和图像。

即使安全厂商也未能幸免。网络安全公司Exabeam的 CISO Kevin Kirkwood透露，去年该公司治理风险与合规（GRC）部门在招聘分析师时，人力资源部筛选出一份近乎完美的简历。“尽管教育经历存在疑点，但整体堪称无懈可击。在线面试中，应聘者应答略显刻板，回答内容与面试官提问存在偏差，但答案质量尚可。”

当该应聘者进入GRC团队视频面试环节，面试官立即察觉异常。Kirkwood对此表示：“对方身体僵直、没有眨眼或肢体动作，面部表情始终如一。”GRC经理向Kirkwood反馈情况后，他们通过专业网站确认这正是深度伪造视频。当时（约2023年初）视频处理技术尚未如今日先进，多数视觉线索仍可识别伪造痕迹。该事件被认为是朝鲜IT工人诈骗计划的典型案例。

2024年7月，安全公司KnowBe4发现新入职员工“Kyle”并非来自亚特兰大，实为朝鲜黑客。公司安全意识倡导官James McQuiggan透露：“我们遭遇了合成身份与深度伪造图像的双重欺诈。Kyle在领取公司笔记本电脑后立即尝试安装恶意软件，所幸安全工具及时告警，团队在损失发生前隔离了设备和账户。”调查显示，Kyle的求职材料全系伪造，包括AI生成的证件照，其真实身份是朝鲜渗透组织的成员。

Buchanan律所的McLaughlin强调，企业需采取多层防御策略，包括培训员工识别攻击特征。核心防御措施包括：开展深度伪造风险认知培训；对敏感操作实施严格核验流程。以下是一些专家们的建议：

Warren Averett会计咨询公司风险咨询负责人Paul Perry指出，认知教育是“人类唯一的防线”，应帮助员工理解攻击激增原因、掌握最新手法，培养异常情况识别能力。微软高级工程师Mithilesh Ramaswamy强调培训需持续开展，教授员工识别机械语音、唇形错位、紧急请求等危险信号，并将技能培养融入日常工作流程。

Ramaswamy建议将模拟演练纳入学习体系，组织员工演练应对“高管”可疑来电/视频的情景。KnowBe4已全面改革招聘流程：加强背景调查；要求新员工在UPS网点凭身份证领取设备；向HR团队更新深度伪造手法简报。

McLaughlin建议企业制定并定期更新专门针对深度伪造的事件响应计划，提升组织韧性。

采用AI检测软件分析音视频一致性，部署数字取证专家进行元数据分析，运用区块链进行数字水印认证。但Exabeam的Kirkwood指出，现有防御工具可能存在局限，理想方案是通信工具内置检测层，实现AI对AI的实时监控。

CM Law律师事务所合伙人Reiko Feaver提醒，企业需知悉与深度伪造相关的法律后果，包括侵权法、疏忽原则、虚假陈述和欺诈等普通法概念。企业既要防范成为受害者，也要明确在受害后不作为可能承担的法律责任。

显然，深度伪造攻击的猖獗印证了AI技术双刃剑效应。因此，当企业着力防范深度伪造这类显性威胁时，更需要建立覆盖AI全生命周期的治理体系。深度伪造防御措施（如检测工具开发、流程重构）本质上属于AI风险管理框架的战术执行层，而系统化的AI GRC框架则为这些具体防护提供战略支撑。安全负责人必须意识到，深度伪造仅是AI风险版图中的一个切面，企业需同步应对算法偏见、数据泄露、模型失控等潜在威胁。将深度伪造防御融入AI GRC框架，既能提升专项防护的系统性，又可避免"头痛医头"的碎片化治理。

多数企业在此领域尚存提升空间。联想与IDC联合调研显示，全球2920名IT与业务决策者中，仅24%的机构已全面推行企业级AI GRC政策。企业软件供应商KalderosCISOJim Hundemer对此强调：“若企业尚未制定AI GRC规划，应将其列为优先事项。”

生成式AI已成为企业员工的普遍工具，但组织需通过指引与培训，防范数据泄露、敏感信息流入公共学习模型、模型“幻觉”（生成不准确内容）等风险。Hundemer指出，最新报告显示，每12个员工生成式AI提示中就有1个包含企业敏感数据，且即便提供合规AI工具，影子AI的数据风险仍持续蔓延。

数据与信任联盟（由全球领军企业高管组成的促进数据与AI责任应用的联盟）高级政策总监Kristina Podnar表示：“随着AI系统日益普及与强大，识别和应对相关风险变得至关重要。AI GRC框架需将数据安全置于核心位置。”

另一方面，专注AI技术与网络安全的CM Law律所合伙人Heather Clauson Haughian指出：“传统GRC框架难以覆盖算法偏见、决策透明度缺失等AI特有风险。而AI GRC框架能帮助企业主动识别、评估和缓解这些风险，包括防范模型漏洞导致的数据泄露、业务中断引发的声誉损害等场景。”

他补充道，例如金融AI系统若决策失误，可能引发大规模经济损失。全球AI相关法规加速出台，企业需确保数据隐私、模型透明度和非歧视原则以应对合规挑战。“因此也可以说，AI GRC规划使企业从被动应对转向主动合规。”

IT与业务负责人需清醒认知：创建和维护AI GRC框架绝非易事。法律层面可提供政策框架建议，但企业必须同步预判政策制定与实施中的现实挑战。AI技术迭代速度远超传统领域，政策更新滞后可能扼杀创新，或引发内部规避行为。

自生成式AI兴起，CIO和CISO们便持续与影子AI博弈。建立与企业特性深度契合的AI GRC战略，是防范影子AI危机的首要防线。

对此，国外安全专家们就AI GRC体系提出了相关建议：

数据与信任联盟Podnar指出，多数企业缺乏清晰的AI治理架构。“首要任务是评估现有GRC框架的可扩展性。明确决策权归属可规避品牌声誉风险与合规危机。责任分配需适配企业文化，没有普适方案，只有最适合的方案。”Haughian补充，框架需定义治理角色与追责机制，确保AI项目的透明监管。

IT服务商TEKsystems全球服务主管Ricardo Madan强调，AI渗透业务全链条，GRC框架需汇聚多元视角。“通过吸纳IT、法务、人力资源、合规及业务部门代表，形成治理目标共识，制定持续反馈与迭代机制。”该过程需动态整合法规演进、技术突破与数据洞察。

Hundemer建议企业基于风险偏好、数据敏感性及信息暴露后果建立风险画像。“安全负责人需协同业务高层界定风险承受边界。并详述风险识别、评估与缓解策略对规避法律与财务危机等内容，这些是至关重要的。”

Haughian强调，GRC计划需明确企业在公平性、透明度、隐私保护等伦理维度的立场。“例如制定反偏见算法设计规范，对重大影响决策建立可解释机制。”伦理指南将成为AI发展的道德罗盘，防范潜在危害并构建信任。

模型治理与生命周期管理是AI GRC的核心组件。Haughian表示：“要涵盖数据采集、模型开发、部署监控直至退役的全周期。需建立数据验证、版本控制、定期再训练等标准化流程，确保模型持续可靠。”

Podnar指出，优秀政策需平衡AI机遇与风险。“多数企业未通过政策界定操作边界，导致员工自行决策引发风险，或过度依赖审批阻碍创新。”政策需明确责任归属、可解释性要求及数据管理规范，并配备可理解的执行机制。

Madan透露，TEKsystems通过用户反馈持续优化AI使用指南与性能监控，并将其纳入审计准备体系。Podnar总结道：“强治理流程需包含模型验证协议与偏离预警机制。”企业应建立动态政策优化机制，使AI GRC框架随技术与环境进化持续焕发生命力。

当技术复刻真实的边界逐渐消融，企业安全的终极防线必将回归人性本源。从KnowBe4在入职环节识破朝鲜黑客的深度伪造陷阱，到奥雅纳集团2500万美元诈骗案催生的多重核验机制，无数案例印证着抵御AI伪造攻击的核心逻辑：在算法与制度的夹缝中，唯有持续唤醒人类的批判性思维，构建技术不可复制的信任纽带，方能在虚实交织的数字化战场筑牢最后防线。

正如《反伪造法案》立法进程所揭示的治理趋势，对抗深度伪造已不仅是企业的技术攻防，更是重塑数字时代契约精神的系统工程——这需要安全团队以AI GRC框架为战略支点，将风险意识植入组织基因，让每通电话、每帧画面、每次转账都经受住"零信任"原则的淬炼。当伪造与真实的博弈进入量子纠缠般的新维度，那些率先建立人机协同防御生态，将伦理准则嵌入算法血脉的企业，终将在虚实混沌中锻造出不可伪造的数字信任勋章。