百度陈洋：AI时代安全新机遇、新实践

2023年12月21日，第七届云安全联盟大中华区大会在深圳成功举办。本次大会由云安全联盟大中华区主办，OPPO、中国电信、百度安全、腾讯、蚂蚁安全实验室、启明星辰、天融信、观安信息、指掌易等单位承办，中国互联网协会、中国电子工业标准化技术协会、深圳市科学技术协会、深圳软件行业协会等多方支持，聚焦“云融未来，安全内在”的主题，旨在构建更加安全可靠的数字信任体系，助力技术创新及数据价值释放。

会上，百度副总裁陈洋聚焦“安全大模型”+“大模型安全”，结合百度安全的实践展开探讨。他提到，大模型在加速产业升级与经济增长的同时，也为网络安全行业带来了全新的机遇与挑战。基于大模型，通过智能人机协同可以重构整个安全业务流程，大模型可以进化成为一种“生产力工具”。

以下是陈洋总裁演讲的精彩内容。（部分删减）

陈洋提到，大模型，如文心一言4.0，不仅代表了人工智能技术的最新进展，也蕴含了海量的数据和知识。这些模型是企业的核心资产，因为它们包含了巨量的投入，包括数据、算法和算力。大模型的安全直接关系到企业的商业利益和技术优势。若这些模型被泄露或被不当使用，可能导致重大的知识产权损失和安全风险，确保大模型的安全，不仅是技术挑战，也是保护企业核心竞争力的关键。

大模型的平台和应用在提供高效能力的同时，也面临着多种安全风险。首先是数据安全和隐私保护，特别是在预训练阶段，大量敏感数据的处理需要严格的保护机制。其次，在模型部署阶段，防止模型文件的窃取和泄露是一大挑战，因为这些文件包含了企业的核心知识和技术秘密。此外，在日常运营中，内容安全尤为关键，需要确保模型输出的内容不违反法律法规和道德标准，避免误导用户或产生不良影响。

针对大模型的安全风险，陈洋提出了一系列应对策略。在预训练和精调阶段，他建议运用隐私计算和精密计算技术来确保数据安全，并采用版权保护措施来保护模型文件。对于内容安全，他提出了利用小模型来监管大模型输出的策略，以及建立多模态的内容审核和安全评测系统，以实时监控和改善模型的安全性。此外，他还强调了智能终端博弈算法的重要性，通过模拟现实场景来测试和优化自动驾驶等应用的安全性，形成一套有效的安全管理体系。