安全AI未来 C3安全大会·2024盛大召开——数据驱动 AI原生

中央网信办网络安全协调局二级巡视员张胜在开幕致辞中表示：“近年来，中央网信办同相关部门一起深入学习领会、贯彻落实习近平总书记的重要指示精神，出台了《网络安全法》、《数据安全法》、《个人信息保护法》、《关键信息基础设施安全保护条例》等系列法律法规，《网络安全审查办法》、《生成式人工智能管理办法》等重要制度以及数百项网络安全国家标准，基本构建起网络安全政策法规体系的四梁八柱。”他强调说，推动人工智能与网络安全的深度融合，一是要加强网络安全人才与创新，构建网络安全教育技术产业融合发展良性生态；二是要重视数据资源的建设与共享；三是要强化国际影响力，推动我国人工智能治理主张理念在国际社会深入人心。

亚信联合创始人田溯宁在致辞中指出：“在新的时代，数据正在成为最重要的资产，卫星互联网和5G网络正在成为‘数据生产网络’：通感一体网络将源源不断地生产出多样、多维的数据，大模型如同现代冶炼厂，在铸造出这个时代的‘钢铁’。操作系统、行业大模型与‘云网安’共同构成新时代数据的基础设施，应用开发者们在建造征服数据海洋的战舰。距离C3安全大会·2024的会场不到100公里处，600年前，郑和的大航海队伍由此启程。今天我们又将在这里再次出发：让我们重拾创业热情、坚守初心，牢记‘安全数字世界’的使命，面向波涛汹涌的数据海洋，一道开启中国人的数字大航海时代。”

中国工程院院士、清华大学智能产业研究院（AIR）院长张亚勤在演讲中强调：新的人工智能是信息智能、物理智能和生物智能的融合。AI大模型的能力极其强大，未来可能创造出很多发展机遇，但也蕴含着不少潜在风险——例如信息智能的风险、AI本身隐含的安全风险以及可控性、可信性、边界等问题；例如幻觉的问题、深度伪造的问题，或是当大模型技术的应用范围拓展至更广更深的领域时的失控和被利用的风险等。他建议，在推动大模型相关技术进步的同时，也应未雨绸缪地做好防范工作，确保技术向善。

上海垣信卫星科技有限公司高级副总裁陆犇分享了他对低轨卫星互联网与AI安全之间的关系的看法，并介绍了当前低轨卫星互联网产业现状、实践与挑战。他提到，垣信拟于今年开始进行大规模的卫星组网建设，随着卫星互联网逐步建成，势必会为产业带来新的大数据源、新的分布式算力网络与快捷的人工智能分发途径。卫星互联网的未来愿景是智能的泛在连接，空天地一体。其间，包括通信的连接、数据的连接，以及无处不在的智能泛在体，都将面临更为突出的安全问题，期待与C3安全大会的行业顶尖专家一起解决这些问题。

亚信安全高级副总裁陈奋在《安全AI未来》主旨演讲中解析了近期由AGI技术驱动的持续升级的网络攻击与网络犯罪。他指出，AGI工具将黑客生成新威胁的时间由之前的“数个月”缩减至几小时甚至几分钟；同时，攻击者开始利用大模型迅速发现软件与服务中存在的漏洞；通过人脸深度伪造来实施网络诈骗犯罪的案例也越来越多。更严重的，攻击者的目标正由传统的数字资产转向AI算力基础设施和大模型——亚信安全监测到，短短一年时间，针对大模型的攻击手段已涌现出40种不同的类型。