亚信安全出席2024数博会 三大要点建立AI与安全的平衡点

近日，2024中国国际大数据产业博览会（以下简称“数博会”）在贵阳隆重举行。活动由国家数据局主办，贵州省人民政府承办，以“数智共生：开创数字经济高质量发展新未来”为主题，共吸引2.1万余名嘉宾注册参会，国内外414家企业报名参展。

作为本届数博会的重要会议之一，2024数博会“数据安全”交流活动同期举行。会议围绕“健全数据安全治理体系，增强网络安全防护能力”主题，广泛邀请政府主管领导、知名专家学者、以及行业领军人物等参会，共同探讨AI时代新型数据安全风险，以及数据安全治理的新理念、新技术与新应用。

亚信安全受邀出席2024数博会，同时亚信安全CTO陈奋参加2024数博会“数据安全”交流活动，并在圆桌对话环节进行了精彩的观点分享，与业界专家及企业代表一起围绕人工智能时代数据安全风险和应对策略进行了深入探讨。

人工智能作为推动社会发展的新动力，正以前所未有的速度改变我们的生活和工作方式。然而，随着人工智能技术在各领域的广泛铺开，由此衍生而来的新型数据安全风险，成为我们亟需共同应对的重大挑战。亚信安全高级副总裁兼CTO陈奋在圆桌交流中表示：“安全与发展始终是贯穿时代的主题，而今随着人工智能技术的融入，AI与数据安全的平衡，更成为产业变革的关键。我认为对于‘平衡’的把控应该融入在大模型训练和应用到各个阶段。”

把“平衡”的把控融入在大模型各阶段

模型训练时期，数据安全直接影响大模型安全。数据来源于内部、外部和训练过程中，如果对于隐私数据不加过滤就投入训练，后续可能造成数据泄露问题；更严重的是，如果大模型训练数据受到投毒攻击或恶意篡改，可能给攻击者留下后门，生成有害内容，或者恶意决策，因此针对数据供应链的完整保护在这一过程中十分重要；

大模型使用时期，大模型形成了数据的新型暴露面，恶意用户通过对模型的大量访问与应用，并利用模型逆向(Model Inversion)、成员隐私推测(Membership Privacy Inference)等手段，可能恢复出部分训练数据，因此对于大模型反馈出来的数据，需要基于权限逻辑，进行分类分级安全防护，对模型的存储、访问进行适当的隔离与限制，形成有针对性的数据安全防护方案。

开源大模型使用。很多企业在使用开源或者公有云的大模型时，会担心提示词存在数据泄露风险，因此需要再企业内部建立提示词规范，防止把敏感问题直接传到开源平台和公有云上。

“AI赋能安全（AI for Security）、安全赋能AI（Security for AI）。今年我们基于公司‘数据驱动 AI原生’的战略，提出了AI发展的两大方向”，陈奋在发言中介绍道。

AI for Security

亚信安全信立方大模型

亚信安全今年正式发布的网络安全行业领域自研大模型——信立方大模型，是一款基于人工智能技术构建的安全防护模型。亚信安全充分利用国内外优秀大模型资源，并融合了亚信安全多年来积累的丰富安全知识及专业安全小模型的训练成果，为精准问答、复杂的告警日志解读、深度网络安全事件分析，以及智能安全运营等多样化专用场景，提供高效且可靠的人工智能安全支撑。

灵活的架构是信立方的一大优势。在底层，信立方引入数据中台的技术，能够快速融合不同来源和规模的数据，并以此为基础，提供灵活的安全保障；同时在安全运营应用服务层面，信立方拥有创新性的大模型商业模式和技术架构，经过训练和优化的大模型接口封装成服务，针对威胁检测、封堵和响应的需要不同需求，提供不同的智能安全体，更好的服务于各产线与用户，提高模型的应用效率和灵活性。

除了在数据融合与威胁治理方面的突出能力，信立方还能够辅助安全运营。通过与信立方的交互，用户在面对难以理解的攻击数据包或复杂的安全趋势时，只需交给信立方，便能迅速得到明了的解答和生动的阐释。同时，信立方还可以深入解析常见漏洞的原理，并提供针对性的修复策略和建议；详细解答应急响应的相关知识，帮助在突发安全事件中迅速应对；探讨企业安全建设的整体方案，提供切实有效的防护建议。

Security for AI

亚信安全人工智能安全实验室

人工智能实验室关注AI自身的安全，从算力云基础设施安全，到大模型应用安全防护，以及大模型红蓝对抗测试等，旨在构建覆盖大模型全生命周期安全体系框架。在这个框架下，实验室提出了“攻查防治”框架，专注于研究大模型潜在的安全漏洞，并开发相应的检测工具，以增强大模型及AI应用的安全性；此外，实验室还关注大模型内生安全，以及大模型的数据安全治理，确保从数据输入到模型输出的每个环节都得到妥善保护。

了解亚信安全，请点击“阅读原文”