关于 大模型安全 的文章

前言2025年11月5日，中国信息通信研究院云计算与大数据研究所（简称“中国信通院云大所”）受邀参加2025（第三届）电力数智化大会，并于网络信息安全论坛上发表“云上人工智能安全思...

2025年11月8日，在世界互联网大会乌镇峰会期间，三六零数字安全集团（以下简称“360”）正式发布《大模型安全白皮书》（以下简称“白皮书”）。该白皮书首次系统性阐释大模型运行时的...

本测评依托中国电信研究院自建的“面向大模型网络安全能力的全栈测评基准：CySecEval-53K”，对Qwen3、GPT等九款常用开源大模型的网络安全能力进行综合评估，旨在客观呈现...

News Today近日，在2025年世界互联网大会乌镇峰会上，360“安全智能体‘以模制模’技术创新及应用”被收录于世界互联网大会领先科技奖收录成果集《科技之魅》。此次入选，标志...

10月28日，十四届全国人大常委会第十八次会议表决通过关于修改《中华人民共和国网络安全法》（简称“网络安全法”）的决定，自2026年1月1日起施行。这是自2017年该法实施以来的首...

根据业务发展需要，泰康保险集团股份有限公司目前正在进行“泰康保险集团2025年大模型安全护栏建设项目”供应商征集工作。 征集截止时间为:【2025/11/05 18：00】。 具体...

大模型安全从来不是选答题，而是每个 AI 从业同学的必修课。毕竟安全这个事儿就好比楼道里的灭火器，看着不显眼。实际是 AI 真正落地的必备标配。现在 AI 的服务、产品井喷式增长，...

随着推理模型、多模态超大模型及智能体的广泛应用，全球大模型的日均交互量已首次突破千亿次，相关安全事件数量也同比大幅增长。最新研究表明，自动化越狱等攻击技术持续演进，跨模型迁移攻击的...

当前，大模型技术正在金融行业掀起智能化浪潮，然而与之相伴的安全挑战也日益凸显。模型幻觉导致决策失误、敏感数据泄露风险、恶意提示词注入攻击等新型安全威胁，给金融行业的安全稳定发展带来...

来源：火山引擎加入网络安全AI安全群，请在公众号 发消息群...