诸子云 | 活动：5.21广州AIGC是威胁还是机遇线下研讨会

作为本场活动的主持人，胡恺健在开场介绍了会议主题，讨论了人工智能的火爆原因以及AIGC（ChatGpt）的应用、机遇和挑战。

胡恺健表示，在安全工作中，也经常接触到AI，比如在传统信息安全风险评估中，需要对新的业务领域调研了解业务状况、业务逻辑、业务架构及数据流，如果用ChatGPT，则可以帮助总结每个行业及其业务人员特点，甚至有可能会发生的安全风险，所以AI可以帮助安全从业者快速去了解某个行业存在的安全风险。

但是，令胡恺健忐忑的是，越来越多的公司和企业用AI来助力业务的发展，但AI目前还存在一些安全风险，而其中最直接最直观的就是数据泄露。若把数据输入AI中，后台就可以直接拿到数据。更无法想象的是，有朝一日别人问类似或相同问题时，AI会基于这些数据给出答案。

所以，AI的风险是存在的，ChatGPT前期就发生过类似的事件。除了数据泄露以外，还有更深层次的问题在本次活动中也会分析，如AI的数据投毒、算法模型、伦理道德、知识产权以及众多法律问题。

AI令业界即兴奋又忐忑，越来越与大众数字生活和数字工作息息相关。例如某些Copilot产品，虽然官方现在有一些保障措施避免数据泄露，但是官网FAQ里面也明确提出只要有人足够努力，还是可以从AI模型中把个人数据提取出来，这在AI里叫数据提取工具，其是通过几个不同的手段来做：

同样也有一些老师分析，AI有1%的机会可以复制出包含你所需的代码片段。1%看起来概率很小，但是代码量足够大的话，代码被泄露出来的机会还是非常大。所以在利用新型AI工具时， 应该怎么将之应用好，规避其风险，这也是举办这场研讨会的一个主要原因。

目前AI最典型的应用是兴趣聊天，还有一些科技公司在画图、做视频、写代码、咨询、洞察等方面也开始应用，其中还有创新，如制图软件利用AI轻松做出好看的图片；在文字编辑能力匹配层面，思维导图会利用AI的技术把内容总结扩写；安全的情报分析层面，更多是去监控上线的舆论情况，利用后台提供的反馈，进行业务或者服务调整，另外情报分析是否可以用在暗网中去做暗访和数据分析，也是值得考虑。还有就是类似微软现在的“全家桶“，把目前AI能做的集合到一起。虽然没有穷尽所有AI能做的事情，但是也提供了更多的思路。

安全风险其实也是在座业内人士比较关心的问题。

第一点，数据隐私跟保密的风险，用户数据输入到AI中，到底会不会继续被利用。虽然一些企业承诺过了三十天就会删掉，但能否确保全部的数据都会得到同样的处理；

第二点，越狱的思维链被重新诱导，即AI把输进去的数据重新输出来。这也是目前企业面临最重要的风险；

第三点，第三方集成的数据中心集成了AI的应用，供应商会存在一个安全泄露的空间。另外，背后用的模型、数据传到哪里，用户都是未知的。

规避安全风险，利用AI平衡业务发展和安全保障，这是安全行业永恒的话题。本期研讨会主要是分享AI的意义、价值所在以及对行业、业务的冲击和影响及其发展趋势，还有在未来的规划，能真正实现“共研、共创”。

在专家自我介绍与对AIGC理解看法环节，众多与会安全专家各抒己见，无拘畅谈。话题涉及到AIGC对于网络安全行业的意义与价值、AIGC对安全运营有什么影响，是拥抱还是摒弃，以及如何看待部分地区开始禁用和遏制AIGC的发展趋势等等。

郭桂生认为，AIGC在具体的实践落地过程中，不同的公司行业会有不同路线选择，大致梳理如下：

因各行各业对模型能力在细节方向的不一致，上述第三个技术路线将是后续无法投入大规模成本进行基础大模型训练，但又对现有通用模型提出能力挑战的公司企业选择的主要路线。

李晓德认为，AIGC对乙方来说多了一些赛道，多了一些机会；对甲方安全来说，挑战多于价值与意义，对于甲方业务的价值高于安全。AI不是新鲜的东西，AIGC能够提升工作效率，社会生产力提升，同步带来社会进步。对安全运营来说，在业务风控层面，人与机器越来越难区分，同时也降低了攻击成本。

吉威炎认为，AIGC提高了研发的效率， AI可以在安全运营中进行应用，安全大脑尤其是一个较好的切入点，打造人工智能引擎。通过各种建模、威胁分析可能存在疏漏，AI能够协助发现更多潜在风险。

谷陟军认为，目前AIGC对很多行业造成了很大的冲击， AIGC技术的大力发展，对基础安全运营人员造成了一定的冲击，但能够明显提升安全运营工作效率。

吴灵敏认为，PGC-UGC-AIGC通过自动化生成更多的数据，可以延伸出更多的安全服务，促进安全行业的发展。对安全运营能够起到正向的发展，通过AI辅助决策，将会对运营人员提出更高的要求，比如能够对AI数据进行更多的解读。

赖东方认为，在数据分析工作中发现，很多繁琐的东西必须用到机器学习的算法，因为AIGC带来了更多的关注。AIGC的意义和价值是颠覆性的，对很多行业也是颠覆性的，对安全运营的影响也非常大，尤其是安全运营中某些机械化的工作，相对容易通过AIGC来替代。

黄勋明认为，Palo Alto使用了大量的AI能力，ChatGPT的出现，对于网络安全具有重要的意义，通过交互能够整合到运维的体系。

郑欢认为，AIGC将极大提升安全运营的效率，尤其是在运营过程中，与研发、运维的协作方面，通过AIGC能够降低运营人员的沟通成本。

朱思思认为，ChatGPT令人感到非常惊喜，但经常会有准确性的问题，使用者本身需要对提问内容有一定的了解，否则可能会被反馈信息误导。安全运营上也需要注意这个问题。

吴灵敏认为，当下遏制的不应该是AIGC的发展，而是通过监管手段控制AIGC带来的风险。

赖东方认为，禁用和遏制是为了让AIGC发展的更好，变得更成熟。

黄勋明认为，拥抱还是摒弃AI对企业来讲，是较大的挑战。禁用和遏制除了看地域政策，还需要看公司员工的安全意识。

张婷婷认为，AIGC意义价值深刻。AI和AIGC可能是两类东西，AI偏底层，基于此能够产生的多种可用不可见应用，这已经是很早的技术或者说话题。但最近更火的其实是AIGC，其更多地是体现在AI在自动生成内容上的应用，更直观地被更多人感知或者直接运用。

AIGC的风险无论多大，我们都应该去拥抱，其对企业也是利大于弊的，在使用的过程中不断地完善对风险的识别，动态地调整运用策略及边界。现在不同地区在立法上对AIGC的规范和限制，都有其当地的国情和文化差异的影响，AIGC的立法管制不应该走向绝对性限制，需考虑怎么平衡科技与法律之间的冲突。

从人文社科的角度来讲，对AIGC的环境并不友好。中美对AIGC的态度差异，可能更多的是人文和国情的差异。

姚俊先认为，1、银行对AI应用已充分说明，对行业帮助巨大，比如攻防双方的效率提升，应用场景会不断创新和变革；2、AIGC的三个能力域——认知、感知、决策三方面能力的提升，借助新的技术发展帮助银行提高效率。所以要拥抱AIGC，近期部分地区禁用的原因是觉得AIGC的风险不可控。

李晓德认为，拥抱AIGC是必然结果。禁用AIGC是暂时的，AIGC的发展超乎想象，对传统行业的冲击非常大，禁用AIGC对国家来说是保护传统行业，同时通过颁布法规和能力建设，一旦监管能力足够，一定会放开。

吉威炎认为，AIGC的限制是不可能的，各个国家都会通过各种方式应用AIGC。

郭桂生认为，发展，是解决发展中一切问题的关键。时代发展的洪流下，AIGC的技术一定会被进一步发展和应用，相关的负面风险自然也将会在发展的过程中慢慢地抚平。

郑欢认为，拥抱AIGC成为必然选择。部分地区对AIGC的禁用本质还是风险管理的问题，当风险大于收益的时候，自然会选择禁用，一旦认为风险可控，会立即开始拥抱这项技术。

郑欢认为，目前是海量信息中自主筛选过滤的时代向知识精准获取、辅助决策的时代转化，AI安全和安全+AI都将给网络安全行业带来新的机遇，诞生新的赛道。

张朝鹏认为，在安全媒体的应用层面，使用AIGC进行文生文，文生图，极大提高了工作效率。所以未来AIGC无法绕过，而是会被吸引，成为技术的关注热点。DLP或其他数据保护产品，需要关注AIGC的数据保护，AIGC在技术侧会诞生更多的产品。

阙云川认为，其公司是国内最早使用ChatGPT与安全结合的团队，实现情报的聚合与翻译，能够有效提升效率。三个月时间里，公司高层对AIGC的看法一直在变，认为技术落后的风险远高于安全风险。此外，AIGC在MSS/MDR中能够极大的提高效率，颠覆MSS/MDR行业模式，可能将诞生一批弯道超车的机会。

林小玉认为，AI已经不是新的东西，但AIGC的应用更加广泛，更具普适性，未来AI可能向互联网一样，融入到生活的方方面面。科技是中性的，但使用科技的人是有善恶之分，因此对于安全来讲，AIGC是一个道高一尺魔高一丈的比拼。

郭桂生认为，AIGC技术之所以能够在产品力爆发后引发剧烈轰动且讨论应用，其核心本质就是效率，对效率的极大提升。前一代是“互联网+”浪潮，当下时代可以称呼为“GPT+”，“AI+” ，所有的行业都可能主动或被动地使用和拥抱AIGC，然后被改造提升效率，最后引发生产力的极大提升。

Palo Alto Networks（派拓网络）资深安全工程师黄勋明进行了“AI变革数字安全”的主题分享。

黄勋明认为，AIGC既可以被企业用来提升网络安全，又能被黑产组织用来改进攻击水准，且这种状况愈演愈烈，可谓是持续升级的矛与盾之争。

那么，ChatGPT如何被恶意行为者用来网络攻击呢？黄勋明介绍，在攻击前的情报搜集阶段，攻击者已经开始尝试AI等自动化方法。比如，AI可以让以前没有能力发起攻击的人利用AI发起网络攻击；AI可以帮助攻击者快速获取可以攻击的目标，扩大攻击范围；AI可以帮助攻击者生成更加具有诱导性的内容；AI可能造成破坏力更强的数据和隐私泄漏等等。

企业又如何使用 ChatGPT 改进网络安全计划呢？黄勋明认为，AI有助于基于大数据的样本分析，获取行为技术的特征，提升识别的准确率；AI有助于在复杂的攻击链条中，找到关联和隐秘的攻击事件；AI有助于提升安全运营自动化的效率，更快速的实现安全事件响应；AI有助于构建更全面的安全方案和客观建议。

目前，AI 已经应用到网络安全关键核心技术，以及发展方向。

■ 网络安全技术中的AI：将AI和ML集成到网络安全产品中的应用和机会；

■ 网络安全运营中的AI：AI和ML的新用途，以帮助SOC和安全运营团队。

基于云交付的安全功能，利用大数据、AIML 来集成所有安全功能并利用数据模型来自动化生成特征规则和优化，能够更快速的对新型攻击进行有效检测和防护。

利用AI将NGFW日常运维工作和智能运维的场景进行关联，例如：

■ 策略下发时会检索策略是否已经存在，并判断该策略是否合理，对主机造成的资源消耗等；

■ 动态监控 NGFW 的性能，并自动分析出性能瓶颈和预测出将来高峰的流量区间等；

■ 策略优化分析，在策略下发前、后进行分析并给出优化建议等；

■ 针对错误配置指标化，协助用户分析判断用户建立的错误配置等。

诸如AI攻击自动化的场景，XDR也利用了其AI特性来对所有攻击行为进行流程可视化，并结合 AIGC 提供的资讯进行攻击模型分析和优化，可以让 XDR 的分析更加准确，而且可以直接基于结论输出告警，不再需要人工面对海量事件。

利用云计算+AI 来对所有威胁引擎进行分析能力优化，并且其衍生的威胁签名和更新速度也比传统技术加快60倍以上。

PaloAltonetworks的XSIAM集成了资产管理、XDR、自动化运维与编排和 SOC AI 运营等。再结合MDR和TIM的架构体系，打造AI智能安全大脑。

与会专家分为四组，每组五六人左右，一共探讨三十分钟左右。探讨内容包括AIGC在网络安全领域的典型应用场景和范例、背景、目标、用途、价值，以及对AIGC的短期和中长期的应用策略和规划讨论。

最终，经过AIGC研讨会议各小组讨论，得出了以下应用案例供参考，简明扼要整理出来，以供业内人士参考。