2025年AI相关安全趋势：机遇与挑战并存

近日，网络安全领域权威媒体SC Media及专注前沿科技洞察的DarkReading网站发布诸多深度分析，数位业内顶尖专家纷纷建言，为我们勾勒出2025年AI相关安全趋势的全景图。随着2025年的大幕拉开，人工智能技术宛如一把双刃剑，在各行各业开疆拓土，大幅提升生产力与效率的同时，也在隐私、治理以及安全层面掀起波澜。

一方面，AI将成为攻击“利器”，为网络钓鱼、内部威胁和勒索软件等传统安全挑战带来新变数。Proofpoint首席AI和数据官Daniel Rapp指出，随着模型愈发强大，威胁行为者可能操纵私人数据，故意污染大型语言模型(LLM)使用的数据源，如篡改电子邮件或文档中的信息，欺骗AI做出有害决策。WatchGuard首席信息安全官Corey Nachreiner提到，恶意使用多模态AI将构建整个攻击链，从分析社交媒体目标、制作逼真网络钓鱼内容，到发现零日漏洞、生成绕过检测的恶意软件等，实现全流程自动化，让低技能攻击者也能发起高级攻击，使各类组织面临高度定制且难以控制的网络威胁。另一方面，AI自身也成为攻击目标。Snowflake首席信息安全官Brad Jones预警，攻击者正向机器学习基础设施转移，试图注入错误信息，让AI模型给出错误答案甚至泄露训练数据。Dataminr产品管理副总裁Shimon Modi表示，随着生成式AI工具普及，恶意行为者将以有权代表用户行动的AI代理为目标，通过创新提示工程技术诱骗其泄露信息或执行操作，如密码重置，进而破坏网络。

GitHub Copilot、Amazon CodeWhisperer等基于AI的编码助手正从试验阶段迈向主流，尤其受初创组织青睐，能提高开发人员生产力、自动化重复性任务、减少错误并加速开发。由于AI模型依赖训练代码，早期使用出现编码错误、安全反模式及代码蔓延等问题。从安全角度看，自动生成的编码响应可能包含易受攻击的代码、引发数据暴露，还会传播不安全编码实践。企业用户需借助动态应用安全测试(DAST)和静态应用安全测试(SAST)扫描已知漏洞，强化代码防止逆向工程，确保发挥其提升生产力的优势。

随着AI融入软件，开发安全运营(DevSecOps)、数据运营(DataOps)和模型运营(ModelOps)等实践将融合成更广泛的xOps管理方法。Digital.ai首席执行官Derek Holt指出，这种方法涵盖生产环境中AI模型管理监控各环节，模糊传统声明式应用程序与基于训练数据集动态生成响应的AI应用程序界限，给运营、支持和质量保证团队带来新压力，也推动xOps方法被广泛采用。作为新兴术语，xOps概述创建利用企业专有数据训练模型的应用程序时的DevOps要求，需将传统流程与DataOps、机器学习运营(MLOps)和ModelOps集成，确保交付高质量、安全且可支持的AI增强应用程序。

生成式AI工具易获取，员工未经授权使用情况增多，引发影子AI问题，给安全团队带来挑战。Darktrace战略网络人工智能副总裁Nicole Carignan预测，未来一年企业内部及员工设备上使用此类工具将呈爆炸式增长，导致影子AI泛滥。若不加以管控，随着《欧盟人工智能法案》等法规生效，将引发数据丢失预防与合规性问题。首席信息官(CIO)和首席信息安全官(CISO)面临巨大压力，需在环境中具备检测、跟踪和根除未经授权使用AI工具的能力，避免敏感数据泄露。

AI在处理海量威胁数据、识别模式上表现卓越，但在可预见未来主要作为增强工具，助力自动化重复性任务与基础威胁检测。SlashNext Email Security +首席技术官Stephen Kowski认为，最成功的安全项目将是融合AI处理能力与人类创造力的项目。许多组织仍需依靠人类专业知识应对超出AI历史模式的现实攻击，有效威胁搜寻依赖人类直觉与技能，发现细微异常、关联不相关指标。Bugcrowd高级服务副总裁Julian Davies补充，AI分析大数据集能力将促使网络安全工作者提升数据分析技能，解读AI见解对检测异常、预测威胁、强化安全措施至关重要，提示工程技能也越发重要。

ColorTokens首席技术官Venky Raju预测，AI工具发展下，威胁行为者将利用其发现并利用开源软件漏洞，甚至自动生成漏洞利用代码，甚至闭源软件也难幸免。此前CrowdStrike报告指出，AI驱动的勒索软件已是典型，攻击者利用AI研究目标、识别系统漏洞、加密数据，还能调整勒索软件逃避检测修复，攻击手段愈发复杂隐蔽。

面对2025年AI相关的复杂安全形势，组织与个人需保持警惕，紧跟趋势，提前布局安全策略，在享受AI技术红利时，筑牢安全防线。这些专家的深刻洞察无疑为我们在AI的浪潮中把握方向、规避风险提供了有力指引。

文章来源：安全419

原文链接：

https://www.darkreading.com/cyber-risk/6-ai-related-security-trends-watch-2025

https://www.scworld.com/feature/cybersecurity-threats-continue-to-evolve-in-2025-driven-by-ai

天齐在线软件测评中心打通检测壁垒

旨在为广大客户朋友

提供安全可靠的软件代码测评服务平台

通过全面的软件安全测评

提升抵御网络攻击、防止数据泄露等

安全问题的能力

我知道你在看哟~