威胁情报信息分享|AI 安全峰会：拜登-哈里斯政府启动美国人工智能安全研究院

美国商务部已创建了一个新的政府机构，领导美国政府在人工智能（AI）安全和信任方面的工作，该机构名为美国人工智能安全研究院（USAISI）。

美国副总统卡玛拉·哈里斯在11月1日于英国布莱切利公园举行的AI安全峰会上发表讲话时宣布了这一消息。

美国人工智能安全研究院将如何运作？

USAISI 将作为美国国家创新与技术研究院（NIST）的一部分。其任务是促进制定AI模型安全、安全性和测试的标准，开发验证AI生成内容的标准，并为研究人员提供测试环境以评估新兴AI风险和解决已知影响。

为实现其使命，USAISI 将利用外部专业知识，包括与学术界、工业界、政府和民间社会的合作伙伴合作，以推进AI安全。

它将与盟友和伙伴国家的类似机构合作，包括英国的AI安全研究院，以协调和协调这一领域的工作。

执行拜登关于安全、可靠人工智能的行政命令

USAISI的创建是在拜登关于安全、可靠AI的行政命令几天后，该命令提到NIST将被要求开发新的标准，进行广泛的红队测试，以确保任何AI系统公开发布前的安全。

美国商务部长吉娜·雷蒙多（Gina Raimondo）与哈里斯一起出席了AI安全峰会。她评论说：“我们将与政府内的联邦机构以及国际伙伴和盟友协调一致，共同努力实现总统管理AI风险和利用AI益处的愿景。”

NIST主任劳里·E·洛卡西奥（Laurie E. Locascio）表示，她的组织“非常高兴能够为美国承担这一关键角色，扩展我们在AI领域的广泛努力。”

“USAISI 将把工业界、民间社会和政府机构聚集在一起，共同管理AI系统的风险，并建立指导方针、工具和测试环境以确保AI的安全和可信度，”她补充道。

一系列新的美国举措以推进AI安全

美国代表团参加英国的AI安全峰会也是拜登-哈里斯政府宣布几项将塑造政府负责任AI方法的其他举措的机会。

这些举措包括：

关于美国政府使用AI的草案政策指南，包括承诺在政府开发、采购和使用AI时纳入负责任的实践。这份草案政策基于现有文件，包括《人工智能权利法案蓝图》和NIST的AI风险管理框架。

关于负责任地使用人工智能和自动化的军事政治宣言。

一项新的慈善倡议，以推进公共利益领域的AI发展。

努力打击利用AI生成的声音模型针对美国公民的欺诈者。

呼吁支持开发和实施国际标准，使公众能够有效识别和追踪官方生成的数字内容和AI生成或操作的内容，包括通过数字签名、水印和其他标记技术。

这一最新公告是基于15家领先AI公司的自愿承诺之上，这些公司承诺开发机制，使用户能够了解音频或视觉内容是否是AI生成的。