御话资讯 | 聚焦AI+安全动态，网安热点精选

【中央网信办深入开展“清朗·整治AI技术滥用”专项行动第一阶段工作】

“清朗·整治AI技术滥用”专项行动自2025年4月启动以来，中央网信办聚焦AI换脸拟声侵犯公众权益、AI内容标识缺失误导公众等AI技术滥用乱象，深入推进第一阶段重点整治任务，累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个，各项工作取得积极进展。

【国家标准GB/T 45654—2025《网络安全技术 生成式人工智能服务安全基本要求》发布】

近日，为全面支撑落实《生成式人工智能服务管理暂行办法》，推动生成式人工智能健康有序发展，中国电子技术标准化研究院联合40家单位研制国家标准GB/T 45654-2025《网络安全技术生成式人工智能服务安全基本要求》，从训练数据安全、模型安全、安全措施等方面提出明确安全要求，支撑开展备案管理、检测评估等工作。

【新型“回音室”越狱技术可诱使OpenAI等大模型生成有害内容】

网络安全研究人员近日披露了一种名为“回音室”（Echo Chamber）的新型越狱方法，能够诱使主流大语言模型（LLMs）突破安全限制生成不当内容。

【Cloudflare推出“按爬取付费”功能：网站可向AI爬虫收费获取内容】

互联网服务提供商Cloudflare日前宣布启动一项新功能，旨在应对AI公司未经授权抓取网站内容的问题。该功能允许网站和内容发布者向AI公司收取费用，以换取正式授权访问其内容。

【恶意AI模型正掀起网络犯罪新浪潮】

思科Talos最新研究表明，网络犯罪分子正越来越多地滥用大语言模型（LLM）来增强其非法活动。这些以生成文本、解决问题和编写代码著称的强大AI工具，正被操纵用于发起更复杂、更广泛的攻击。

【国家互联网信息办公室发布《数据出境安全评估申报指南（第三版）》】

为了指导和帮助数据处理者规范有序申报数据出境安全评估，国家互联网信息办公室编制了《数据出境安全评估申报指南（第三版）》，对数据处理者申报数据出境安全评估需要提交的相关材料进行了优化简化，明确数据处理者申请延长数据出境安全评估结果有效期的条件、流程、材料等内容。

【工信部印发《2025年护航新型工业化网络安全专项行动方案》】

近日，工业和信息化部印发《2025年护航新型工业化网络安全专项行动方案》。《行动方案》聚焦突出重点管理、做优服务模式，以推动重点企业、重要系统、关键产品防护能力升级为核心，提出3方面、8项重点任务，推动提高工业领域网络安全保障水平，着力支撑制造业高质量发展，为实现“十五五”良好开局奠定坚实基础。

【国家密码管理局等三部门发布《关键信息基础设施商用密码使用管理规定》】

《关键信息基础设施商用密码使用管理规定》已经2025年4月21日国家密码管理局局务会议审议通过，并经国家互联网信息办公室、公安部同意，现予公布，自2025年8月1日起施行。

【Instagram 广告利用AI换脸漏洞欺骗银行客户】

安全研究员最新发现，模仿蒙特利尔银行（BMO）和EQ Bank等金融机构的Instagram广告，被用来针对加拿大消费者进行网络钓鱼和投资欺诈。一些广告使用人工智能驱动的深度虚假视频，试图收集个人信息，而另一些广告则使用官方品牌来吸引平台外的流量，使其看起来像与银行无关的非法域名。