两会观察 | AI时代，如何构筑安全运营创新之道？ - 新鲜讯息

3月5日，十四届全国人大二次会议在北京正式召开。2024年政府工作报告中指出，深化大数据、人工智能等研发应用，开展“人工智能+”行动，打造具有国际竞争力的数字产业集群。这是“人工智能+”首次被写进政府工作报告，而在今年的两会提案中，AI人工智能也多次被提及，成为2024年全国两会重点关注的话题之一。

图源：AI作图

事实上，近年来人工智能新技术新应用层出不穷，从2022年聊天机器人模型ChatGPT的横空出世，到今年OpenAI发布首个文生视频大模型Sora，全球再次掀起一股人工智能讨论热潮。作为新一轮科技革命和产业变革的重要驱动力，人工智能大模型技术正在为各行各业带来发展新动力。

在“人工智能+安全”领域，默安科技在多个创新型安全产品中，采用机器学习、深度学习，以及生成式AI等技术，将机器学习和深度学习技术应用于恶意行为检测与异常检测之中，实现高效的攻击检测和预防，以及实时的威胁检测和响应；利用生成式AI与大模型，用于威胁情报生成与高级威胁模拟与评估之中，帮助安全团队更好地了解和预测未来的攻击趋势，及时做出相应的防御措施，以及更好地发现和修补潜在的漏洞和安全风险。

默安科技提供的整体解决方案贯穿左移开发安全（DevSecOps）、智慧运营安全（AISecOps）、云和云原生安全（Cloud and Cloud Native Security）三大环节，帮助客户构建基于云的下一代安全防护体系，实现安全风险全生命周期管理。智慧运营安全AISecOps中的多个产品与方案，已在政府、央企、金融、能源、电力、教育、医疗等多行业的数千家政企单位成功应用。

默安科技在2022年专门成立人工智能安全创新小组，致力于AI技术在网络安全领域的创新研究及应用，长期对AI在安全领域的应用进行深入研究和跟踪，并将技术成果持续更深入地应用于更多产品当中。凭借在攻击检测中出色的AI应用能力多次获得国际权威认可，成功入选、等多篇报告。

默安科技安全专家认为，AI赋能安全运营自动化已经是一种常见的解决方案，基于生成式AI大模型的安全运营自动化工具，使安全领域迎来了更强大的分析能力和自动化效率。通过利用生成式AI技术的学习和推理能力，这些工具提升了安全运营工作的效率和准确性，并具备适应不同安全场景的能力。

然而，在实际应用中，默安科技安全专家提醒还需关注以下几个关键因素：首先是数据隐私和安全问题：由于这些工具需要处理大量的敏感数据，必须采取适当的安全措施，以确保数据的机密性和完整性。其次是加强可解释性和可信度：生成式大模型的决策过程常被视为黑盒，难以验证其决策和推理的准确性。因此，需要进一步研究和开发解释模型，提高其可解释性和可信度。最后是硬件成本问题：考虑到大模型的计算需求，离线部署需要考虑硬件成本和资源投入的问题，以确保在实际落地时具备可行性。总之，随着数据量和复杂程度的增加，AI在安全运营中将会发挥越来越重要的作用，底层的生成式AI模型会更加趋近于小型化、本地化、领域驱动化的方向发展。