全球顶级AI厂商一齐测试模型安全性，最大规模的AI黑客大赛即将开启

自ChatGPT问世并风靡全球以来，这类大型语言模型已经逐渐成为了辅助提高生产力的工具，美国白宫更是直接将人工智能评价为这个时代最强大的技术之一。

同时，美国白宫也表示为了抓住它所带来的机遇，首先必须降低它的风险，而公司对此负有基本责任，需要确保其产品在部署或公开之前是安全的。就在前不久，美国白宫宣布OpenAI、Google、Antrhopic、Hugging Face、Microsoft、Nvidia和Stability AI等顶级AI厂商将在DEF CON 31上齐聚一堂，开展对其生成式AI系统的公开评测。

除此之外，据白宫新闻稿，美国国家科学基金会宣布提供1.4亿美元的资金给人工智能研发，用于启动七个新的国家人工智能研究所。这项投资将使美国的研究所总数达到25所，并将参与的组织网络扩展到几乎每个州。这些新研究院将推进人工智能研发，以推动气候、农业、能源、公共卫生、教育和网络安全等关键领域的突破。

白宫在一份声明中说，这次的AI评测活动将为研究人员和公众提供关于这些模型的关键信息，并使人工智能公司及开发人员能够采取措施解决这些模型中发现的问题。按照大赛举办方 AI Village的说法，即将举行的活动是“任何一组AI模型有史以来最大的红队演习”，成千上万的人将参与到公共人工智能模型评估之中来。

据了解，DEF CON 31将于2023年8月10日至13日在拉斯维加斯凯撒论坛举行。在DEF CON活动期间，参与者将能够通过组织者提供的笔记本电脑定时访问多个LLM。为激励参赛者，大赛采用CTF形式的积分系统，积分最多者将会赢得高端英伟达GPU。

编辑：左右里