ISC.AI 2024数字安全峰会

人工智能技术的广泛应用正推动着各行各业转型升级，同时为安全行业的发展注入了强劲动力。中国工程院院士吴世忠在主题演讲中，从生成式人工智能安全研究的总体态势和技术热点角度进行了深入分析。他表示，由AI技术带来的新型安全问题已成为现实，安全行业将迅速迈进AI驱动的新时代。然而，大模型安全研究可以说刚刚开始。无论是安全研究还是安全产业，都必须紧跟科技进步和应用创新，才能服务好发展，保障好发展。

“当前，AI应用系统安全责任与风险严重失衡”，中国工程院院士，国家数字交换系统工程技术研究中心(NDSC)主任邬江兴在主题演讲中强调了当前AI系统面临的窘境。他提出，基于内生安全架构可发现或纠正AI应用系统安全问题，AI应用系统中必须包含必要多样性和相对正确公理的内生安全构造，在不可信的过程中找到相对可信的结果。智能时代需要选择正确的技术路径，实现更安全的AI应用系统。

随着人工智能技术的飞速发展，所有行业和产品都在被重塑，安全行业同样面临着一场革命。360集团创始人，ISC大会主席周鸿祎在《打造安全大模型，引领安全行业革命》的主题演讲中指出，用AI重塑安全的本质是让安全做到“自动驾驶”，360首推安全大模型，对购买360标准产品的用户免费提供大模型标准能力，实现大模型普惠和安全行业新质生产力变革。

当前，人工智能跨越式发展，技术创新加速迭代，业界主流模型从千亿稠密到万亿稀疏，并逐步走向百万级超长序列和多模态。华为副总裁，ISP与互联网系统部总裁岳坤在演讲中表示，如何在智能时代的早期保证相应的服务能力和服务水平，将是首批的智能应用面临的核心挑战之一。他强调，提升安全水平是保障智能化服务能力和服务水平的关键，而原生是人工智能时代最大的安全。华为今年发布了昇腾原生计划，将投入专项资金，以技术+商业驱动生态繁荣，为客户打造更加匹配场景需求的方案，加速AI模型的应用。

随着生成式人工智能驱动AI发展进入新阶段，AI治理随之也变成了一个突出问题。先进计算与关键软件（信创）海河实验室主任，中国新一代人工智能发展战略研究院执行院长龚克在演讲中指出，AI治理应遵循有利发展、为人服务和基于伦理三点原则，要清楚认识到技术自身的不足，以及人对于AI技术的恶用、滥用、误用等风险。他强调，防止AI“作恶”要建立明确的伦理标准、提高透明度和问责制、完善法律法规、内置安全机制等。此外，要坚持开放创新，在信创基础上发展安全可控的AI生态。

随后，在由IDC中国副总裁钟振山主持的“安全大模型引领数字安全新升级”圆桌对话上，教育部高等学校网络空间安全专业教学指导委员会秘书长封化民，360数字安全集团副总裁余凯，统信软件副总裁万慧星，微软大中华区安全与合规业务产品市场负责人李亮，围绕大模型技术对于安全行业的影响、大模型在安全领域应用的主要优势和障碍以及小模型的应用价值等话题，发表了各自观点。