美国《国家人工智能研发战略计划》动态及人工智能内生安全问题对策

人工智能被普遍认为是引领新一轮产业变革的核心技术引擎，对有效提升我国核心竞争力、培育壮大新兴业态，重塑发展新动能，加速推动经济智能化转型具有重要意义。

2016年10月12日，美国奥巴马政府将人工智能上升至国家战略层面，发布《国家人工智能研发战略计划》（The National Artificial Intelligence R&D Strategic Plan），制定出美国人工智能研发的整体框架及七项优先战略，同时从政策、技术、资金等方面进行长期投资和支持，以期充分利用AI技术增强国家经济实力并改善社会安全。2019年6月21日，特朗普政府对外发布了新版本《国家人工智能研发战略计划》，在2016年版本的七大关注领域基础上新增了第八个关注领域—公私合作伙伴关系。2023年5月23日，拜登政府更新发布了最新版的人工智能研发战略计划，并公布了一系列围绕美国人工智能使用和发展的新举措。该计划是对2016、2019年版《国家人工智能研发战略计划》的再次更新，重申了之前的8项战略目标并对各战略的具体优先事项进行了调整和完善，同时增加了新的第9项战略以强调国际合作。以2023版本为基准，具体战略内容包括：

战略1：长期投资基础和负责任的人工智能研究。优先投资下一代人工智能技术，以推动负责任的创新发展，为公共利益服务，并使美国在人工智能领域保持世界领先地位。这包括提升人工智能基础能力，如感知、表征、学习和推理，并努力使人工智能更易使用、更可靠，以及评估、管理与生成式人工智能相关的风险。

战略2：开发人-人工智能协作的有效方法。加深对如何创建能有效补充和增强人类能力的人工智能系统的理解。开放的研究领域包括成功的人智协作团队的属性和要求，评价人工智能协作应用的效率、有效性和性能的方法，以及降低人类滥用人工智能增强应用导致有害后果的风险。

战略3：理解并解决人工智能的伦理、法律和社会影响。制定方法来理解和减轻人工智能带来的伦理、法律和社会风险，以确保人工智能系统反映美国的价值观并促进公平。这需要跨学科研究，包括通过技术流程和设计保护价值观、以及推进人工智能可解释性和隐私保护设计和分析；制定可验证的问责制、公平性、隐私和偏见的指标和框架。

战略4：确保安全的人工智能和人工智能的安全。深入了解如何设计可信赖、可靠和安全的人工智能系统。这需要开展相关研究，以提高测试和验证人工智能系统功能和准确性的能力、以及保护人工智能系统免受网络安全和数据漏洞的影响。

战略5：开发用于人工智能训练和测试的共享公共数据集和环境。开发并允许访问高质量的数据集和环境，以及测试和训练资源。一个更广泛、更多样化的社区使用最好的数据和工具来开展人工智能研究，将促进创新和公平成果的产生。

战略6：通过标准和基准衡量和评估人工智能技术。制定广泛的人工智能评估技术，包括技术标准和基准，对于指导和促进人工智能系统的研发至关重要。

战略7：更好地了解国家人工智能研发劳动力需求。增加研发劳动力发展的机会，来战略性地培养美国的人工智能劳动力。这需要进行相关研究来提高对人工智能及其相关工作的局限性和可能性的理解、以及实施教育培训措施来推进与人工智能系统的有效交互。

战略8：扩展公私合作以加速人工智能发展。与学术界、工业界、国际合作伙伴和其他非联邦实体合作，促进对负责任的人工智能研发进行持续投资的机会以及先进成果转移转化的能力。

战略9：为人工智能研究的国际合作建立有原则和可协调的方法。优先开展人工智能研发方面的国际合作，以应对环境可持续性、医疗卫生和制造等全球挑战。战略性国际伙伴关系将有助于支持负责任的人工智能研发进展以及人工智能国际指南和标准的制定和实施，确保美国仍然是人工智能研发生态系统的中心枢纽。