原创丨美国土安全部与科技巨头等多元行业管理者成立人工智能安全委员会

4月26日，美国国土安全部宣布成立一个新的人工智能安全委员会，成员包括OpenAI、英伟达、微软（Microsoft）、Alphabet、亚马逊网络服务（AWS）、AMD等企业的22名高层，旨在指导美国关键基础设施中人工智能的使用。据悉该委员会将就如何最好地管理人工智能在16个关键基础设施部门的部署方式向国土安全部提供建议，涉及范围从国防到能源运输，再到信息技术、金融服务、食品和农业等等。该委员会将在5月初首度开会，计划未来每季召开一次会议。

1、委员会成员名单

该AI安全委员会的成员名单涵盖与AI相关方面，包括美国政界人士、科技巨头代表、基础设施代表、知名学者和意见领袖。在业界巨头这方面，除了微软、英伟达和OpenAI以外，谷歌母公司Alphabet、亚马逊AWS、Anthropic、达美航空、IBM、Adobe和AMD的CEO也出现在名单中。

完整名单如下：

2、委员会重点任务

此次成立的 AI 安全委员会，将携手美国的其它部门，共同为电网运营商、运输服务提供商以及制造工厂等行业提供指导建议，旨在确保在广泛应用 AI 技术的同时，有效保护其系统免受潜在的安全威胁和破坏。美国官员指出，这一举措是美国致力于保护国家经济、公共卫生和重要行业免受 AI 潜在风险侵害的重要一环。另外，美国土安全部计划在未来发布公告，更全面地解释该委员会的目标。另外，除了可行的建议外，该委员会还将允许关键基础设施社区和人工智能领导者“分享有关人工智能带来的安全风险的信息”。

3、政府对人工智能安全风险的重视

美国土安全部部长马约卡斯表示，1月新罕布什尔州初选前人工智能生成的以拜登为主角的虚假机器人电话这一事件促成了委员会成立，并表示他已经与专家就“深度伪造”进行了交流。

国土安全部还指出，人工智能是《2024 年国土威胁评估》（Homeland Threat Assessment of 2024）报告中的一个重要部分，敌对的国家已经在部署人工智能辅助工具来威胁关键基础设施。该报告称，人工智能技术有可能实现更大规模、更快速、更高效、更隐蔽的网络攻击，攻击目标包括管道、铁路和其他美国关键基础设施。

当前，人工智能技术无疑是科技领域的热门话题，各大公司如英伟达、OpenAI 和微软等都在这一领域获得了极高的关注度。然而，随着人工智能技术的快速发展和广泛应用，如何规范人工智能并保障其安全性成为了一个亟待解决的问题。因此，我可进一步关注全球主要国家人工智能安全动态，及时加强人工智能安全战略布局，强化能源、通信、农业等关键基础设施人工智能防护能力。同时，及时就人工智能技术带来的安全威胁及时使用策略。

参考链接：

1. https://www.163.com/dy/article/J0S2LOKB0511831M.html；

2. http://www.myzaker.com/article/662b82238e9f091f0a1c5b26

3.https://therecord.media/dhs-artificial-intelligence-safety-security-board-announcement

商务合作丨开白转载丨媒体交流   联系方式：18813062895

往 期 回 顾：