​DARPA和白宫发起2000万美元的人工智能网络安全挑战竞赛

美国国防高级研究计划局(DARPA)和白宫联手宣布一项为期两年的新竞赛，旨在利用人工智能帮助保护关键软件并创建新的网络安全工具，该工具本质上是一种尖端、高技术领域的漏洞赏金计划推动的安全系统。白宫宣布这一消息之际，人们对联邦政府和私营部门不断上升的网络供应链风险持续感到担忧。该竞赛于当地时间8月9日在拉斯维加斯举行的黑帽网络安全会议上启动。它要求参与者创建任何人都可以使用的工具来帮助识别和修复软件中的漏洞，以防止黑客利用它们。去年九月，管理和预算办公室规定，所有软件提供商在将其产品部署到联邦机构系统上之前都必须对其产品的安全性进行自我证明。

人工智能网络挑战赛简介

白宫当地时间8月9日宣布，这项活动被称为“人工智能网络挑战”或AIxCC，旨在“挑战美国各地的竞争对手，利用人工智能识别和修复软件漏洞”。谷歌、微软、OpenAI和Anthropic将为这项挑战提供专业知识和技术。为了提高参与度，国防高级研究计划局(DARPA) 将投入700万美元资助想要参与竞争的小企业。

DARPA新闻稿称：“在一个日益互联的世界中，软件支撑着从金融系统到公共事业的一切。” “随着软件推动现代生活并提高生产力，它也为恶意行为者创造了不断扩大的攻击面。

新闻稿称：“DARPA专家表示，由于缺乏能够大规模保护系统的工具，这些基础设施特别容易受到网络攻击。” “近年来，恶意网络行为者利用这种情况对社会构成了威胁，并明确了网络防御者的任务是保护令人畏惧的攻击面。尽管存在这些漏洞，现代技术的进步可能提供解决这些问题的途径。”

据DARPA网站称，DARPA将为AIxCC举办一场公开竞赛，明年8月的DEF CON 2024会议上，最多20支参赛队伍将晋级半决赛，随后将会有最多5支球队晋级决赛。2025年8月，DEF CON 2025将最终决胜出三名获奖者。据白宫称，AIxCC将提供近2000万美元的奖金。据悉，半决赛前五名的参赛队将每队赢得200万美元奖金，并有机会花一年的时间来提升他们的技术。半决赛选手将有一年的时间来构建一个能够快速保护关键基础设施免受攻击的系统。

AIxCC遵循五角大楼和白宫更广泛的推动，负责任地使用和采用人工智能以促进国家安全。去年六月，国防部发布了“负责任的人工智能战略和实施路径”，制定了将该部门转变为人工智能就绪组织的方法。

就在上个月，白宫宣布几家领先的人工智能公司，包括为AIxCC提供技术和专业知识的公司，自愿承诺管理人工智能带来的风险。白宫与科技领导人举行的一次会议上提到了人工智能的“巨大”风险和承诺，这些领导人承诺在该行业彻底改变社会的同时防范从网络攻击到欺诈的一切。

拜登与亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI的顶级代表站在一起表示，随着人工智能越来越深入地融入个人和商业生活，这些尖端公司已承诺“引导负责任的创新”。

寄予厚望的AIxCC

白宫科技政策办公室主任阿拉蒂·普拉巴卡尔在新闻发布会上说道：“这场竞赛将吹响组织中各类创意人士的号角，以加强美国家庭、企业以及整个社会所依赖的关键软件的安全性。”

“我们将在两天半的时间里让数千人组成领先的人工智能模型红队，看看它们的表现如何，”普拉巴卡尔说。

负责网络和新兴技术的副国家安全顾问Anne Neuberger在简报中表示，该挑战赛旨在“汇集全国各地的不同思想家，共同思考如何利用人工智能来大幅改善网络安全”。

DARPA发言人表示，获奖工具将向公众发布，以改善世界各地的网络安全。

负责监督本次竞赛的DARPA 项目经理佩里·亚当斯(Perri Adams)表示，本次竞赛旨在帮助网络安全专家抵御日益增长的创意黑客。亚当斯表示，人工智能所能做的事情的承诺还不够，还需要一个“强制功能”来将人工智能和网络安全领域的顶尖人物聚集在一起，以展示人工智能如何被用于公益事业。

她说：“这是一个利用该技术做出真正改变的机会，可以构建能够实现巨大结构变革的东西。” “我们希望通过DARPA的这项新挑战，我们能够激发如此令人难以置信的创新。”

“网络防御者的任务是保护令人畏惧的技术迷宫。如今，他们没有能够实现如此规模安全的工具。因此，近年来我们看到黑客利用这种情况，”她说。

Adams表示，她们的目标是开发非常有用的系统，对软件安全产生巨大影响，并希望这一成功成为如何利用人工智能解决社会关键挑战的例子。最终目标是开发能够大规模保护软件的尖端技术；能够摄取软件并说‘嘿，我发现了所有这些错误，这里有修复程序’的工具，可以删除易受攻击的代码并将其替换为安全代码。