【国际视野】美国参议院人工智能工作组发布《人工智能政策路线图》

整个人工智能生态系统，包括从初创公司到成熟公司的人工智能开发者、部署者和用户；

人工智能供应链关键组件（包括硬件和软件）的供应商；以及

学术界和民间社会，从人工智能研究人员和智库到工会和民权领袖。

国家核安全局(NNSA) 测试平台和模型评估工具。国防部、国土安全部(DHS)、能源部和其他相关机构对化学、生物、辐射和核(CBRN) AI 增强威胁的评估和缓解；

支持人工智能增强化学和生物合成的进一步发展，以及降低危险合成材料和病原体风险的保障措施；

增加对DARPA 人工智能相关工作的资助；

为国防部平台的自主性开发安全可信的算法；

确保国防部开发和部署联合全域指挥与控制（CJADC2）及类似能力；

为军人和指挥官开发人工智能工具，以学习和改进武器平台的操作；

为来自传感器和其他来源的数据创建存储、传输和跨计划使用的途径，包括特殊访问计划（SAP），以减少现有数据集之间的孤岛，使国防部数据更适应机器学习和其他人工智能项目；

提高国防部内部的超级计算和人工智能能力，包括为新的计算基础设施和具有超级计算和人工智能相关专业知识的工作人员提供资源，以及为培养这些领域的下一代人才提供适当的培训材料；

酌情利用AUKUS 支柱2 中的独特授权，与盟友合作，共同开发综合人工智能能力；

开发人工智能集成工具，更高效地执行《联邦采购条例》；

利用人工智能优化整个国防部的后勤工作，例如改进整个国防工业基地的工作流程，应用预测性维护来延长武器平台的使用寿命。

鼓励相关委员会制定立法，利用整个联邦政府的公私合作伙伴关系，支持人工智能的发展，最大限度地降低人工智能的潜在风险；

认识到人工智能的发展日新月异，支持联邦进一步研究人工智能，包括通过与联邦资助的研发中心（FFRDCs）合作；

鼓励相关委员会解决初创企业在人工智能市场竞争中面临的独特挑战，包括考虑是否需要立法支持传播最佳做法，以激励各州和地方投资于类似于国家人工智能研究和培训中心提供的机会；

支持美国总审计长提交一份报告，以确定影响人工智能系统创新的任何重要联邦法规和条例，包括各种规模的公司参与人工智能竞争的能力。

与 DOC和其他相关机构合作，增加人工智能公司使用模拟数据集等工具进行测试的机会；

鼓励 DOC和其他相关机构（如小企业管理局(SBA)）对小企业开展外联活动，以确保这些机构提供的人工智能相关工具满足小企业的需求；

确定小企业管理局及其合作伙伴（包括小企业发展中心、小企业投资公司和小额贷款公司）支持所有企业家和小企业利用人工智能以及创新和提供与人工智能发展相关的服务和产品的方式；

确商业软件和云计算服务是SBA 7(a)贷款计划允许的支出，以帮助小企业更经济地采用包括人工智能在内的技术解决方案（《小企业技术进步法案》（S. 2330））。

在开发人工智能并由最终用户部署时，努力确保与利益相关者，从创新者和雇主到民间社会、工会和其他劳动力观点进行协商；

各管辖委员会探讨如何确保在开发和部署联邦机构采购或使用的人工智能系统时，考虑到相关内部和外部利益相关者的意见，包括联邦雇员、受影响的公众和专家；

制定与培训、再培训和提高私营部门劳动力技能有关的立法，以成功参与人工智能经济。此类立法可包括激励企业制定战略，将新技术和再技能员工融入工作场所，以及激励蓝领和白领员工进入社区学院和大学进行再培训；

探索人工智能对未来长期工作的影响和可能的解决方案（包括私营部门的最佳实践），因为通用人工智能系统的开发能力越来越强，有可能取代人类工人，并制定适当的政策框架来应对，包括如何打击破坏性的劳动力转移；

相关委员会应考虑立法，改善美国高技能STEM 工人的移民制度，以支持国家安全，并促进全社会在人工智能方面的进步。

联邦政府采用人工智能改善政府服务提供，实现内部治理现代化以及提高现有联邦雇员技能以最大限度地利用人工智能的前景；

通过"美国数字服务"、"总统创新研究员"、"总统管理研究员"等项目以及《政府间人事法》和其他相关立法授权的其他项目，有机会招募和留住人工智能方面的人才，并鼓励相关委员会考虑如何利用这些项目。

鼓励各委员会审查相关机构即将发布的与高影响人工智能用例有关的指南，并探讨是否以及何时需要可解释性要求；

支持制定关键基础设施中使用人工智能的标准，并鼓励相关委员会制定立法以推进这一工作；

鼓励能源信息管理局将数据中心和超级计算集群能源使用情况纳入其定期自愿调查；

支持第3050 号提案第3节，该节指导对金融部门的监管差距进行分析，并鼓励相关委员会制定立法，确保金融服务提供商在其人工智能模型中使用准确且具有代表性的数据，并确保金融监管机构拥有执行与这些问题相关的适用法律和/或法规的工具；

鼓励相关委员会调查在住房领域使用人工智能系统的机遇和风险，重点关注透明度和问责制，同时承认现有法律法规的效用；

认为联邦政府必须确保在联邦采购过程中对符合相关标准的人工智能系统进行适当的测试和评估，并支持简化符合这些标准的人工智能系统和其他软件的联邦采购过程；

认识到专业内容创作者和出版商对人工智能相关问题的关注，特别是考虑到地方新闻的重要性，以及新闻行业的整合导致小城镇和农村地区的地方新闻选择减少。参议院的相关委员会不妨研究人工智能在这一领域的影响，并制定立法来解决关切领域的问题。

制定立法，解决在线儿童性虐待材料(CSAM) 问题，包括确保现有保护措施专门涵盖人工智能生成的CSAM。人工智能工作组还支持审议立法，以解决未经同意传播私密图像和其他有害的深度伪造图像的类似问题；

考虑立法保护儿童免受人工智能带来的潜在网络伤害，确保公司在产品设计和操作中采取合理步骤考虑此类风险。此外，人工智能工作组对显示社交媒体对心理健康影响的数据表示关切，并表示支持相关机构进一步研究和采取行动，以了解和解决这一问题；

探索各种机制，包括通过利用公私伙伴关系，阻止利用人工智能进行欺诈和欺骗，特别是针对老年人和退伍军人等弱势群体；

继续努力制定一个联邦框架，用于测试和部署各种运输方式的自动驾驶车辆，以保持在这一关键领域的领先地位。这项工作尤为重要，因为我们的战略竞争对手；

考虑立法禁止使用人工智能进行社会评分，保护我们的基本自由，与中共广泛使用此类系统形成鲜明对比；

审查是否应极度限制或禁止人工智能的其他潜在用途。

考虑立法，既要支持在医疗保健领域进一步部署人工智能，又要实施适当的防护栏和安全措施来保护患者，因为在任何有关医疗保健和人工智能的立法工作中，患者都必须处于前沿和中心位置。这包括消费者保护、防止欺诈和滥用，以及促进使用准确和有代表性的数据；

支持美国国立卫生研究院开发和改进人工智能技术。特别是，数据治理应成为整个NIH和其他相关机构关注的关键领域，重点是为机器学习和数据科学研究提供医疗保健和生物医学数据，同时认真解决在该领域使用人工智能所引发的隐私问题；

确保卫生与公众服务部（HHS），包括食品与药物管理局（FDA）和国家卫生信息技术协调员办公室拥有适当的工具来权衡人工智能产品的益处和风险，从而为产品开发商提供可预测的监管结构；

考虑立法，为医疗服务提供者和公众提供有关在医疗产品和临床支持服务中使用人工智能的透明度，包括用于训练人工智能模型的数据；

考虑制定政策，促进人工智能系统的创新，从而有意义地提高医疗成果和医疗服务效率。这应包括审查医疗保险和医疗补助服务中心的报销机制以及防护措施，以确保人工智能在所有人群中的问责制、适当使用和广泛应用。

考虑制定立法，为人工智能系统面向公众的透明度要求建立一个连贯的方法，同时在必要和有益的情况下允许特定用例要求，包括人工智能部署者何时应披露其产品使用了人工智能的最佳实践，以联邦在该领域正在进行的努力为基础。如果制定了这些要求，人工智能工作组鼓励相关委员会确保这些要求符合任何潜在的风险制度，并且不会抑制创新；

评估是否需要制定最佳实践，以确定适合特定类型任务的自动化水平，同时考虑到在某些高影响任务的特定阶段需要有人工参与；

审查联邦机构在多大程度上需要向其员工提供有关工作场所开发和部署人工智能等新技术的透明度；

考虑与人工智能开发人员用于训练其模型的数据集相关的联邦政策问题，包括可能包含敏感个人数据或受版权保护的数据集，并评估是否需要透明度要求；

审查行政部门即将发布的与建立数字内容出处有关的报告，包括合成和非合成内容；

考虑制定立法，激励使用生成式人工智能的软件产品以及摄像头和麦克风等硬件产品的提供商提供内容出处信息，并考虑是否需要制定立法，要求或激励在线平台保持对内容出处信息的访问。人工智能工作组还鼓励在线平台在可用时自愿显示内容出处信息，并确定如何以最佳方式向最终用户默认显示这一出处信息；

考虑是否有必要立法保护个人的姓名、形象、肖像和声音免遭未经授权的使用，因为这与第一修正案的原则是一致的，而且与人工智能有关。该领域的立法应考虑新型合成内容对数字媒体专业内容创作者、未经同意传播私密图像的受害者、欺诈行为受害者以及因合成内容的广泛传播而受到负面影响的其他个人或实体的影响；

审查美国版权局和美国专利商标局关于人工智能如何影响版权和知识产权法的现有报告和即将发布的报告的结果，并采取认为适当的行动，确保美国在这方面继续领先世界；

考虑立法，旨在建立一个公众意识和教育运动，提供有关人工智能在美国个人日常生活中的益处、相关风险和普遍性的信息。该运动与数字扫盲运动类似，应包括指导美国人如何学习使用和识别人工智能。

支持与开发以能力为重点、基于风险的方法有关的工作，特别是风险测试和评估方法与机制的开发和标准化，包括红队、沙箱和测试平台、商业人工智能审计标准、漏洞赏金计划以及物理和网络安全标准；

人工智能工作组鼓励各委员会考虑如何支持这些类型的工作，包括通过联邦采购系统。调查人工智能系统不同产品发布选择的政策影响，特别是了解封闭模式与完全开源模式之间的差异；

制定一个分析框架，明确规定在哪些情况下需要对人工智能模型进行部署前评估；

探讨是否有必要建立一个以人工智能为重点的信息共享与分析中心（ISAC），作为商业人工智能实体与联邦政府之间的接口，以支持对人工智能风险的监控；

考虑建立一个基于能力的人工智能风险机制，考虑短期、中期和长期风险，同时认识到模型能力以及测试和评估能力将随着时间的推移而变化和增长。随着我们对人工智能风险认识的进一步发展，我们可能会发现更好的风险管理体制或机制。在测试和评估不足以直接衡量能力的情况下，人工智能工作组鼓励相关委员会探索可临时使用的替代指标；

制定旨在推进研发工作的立法，以应对各种人工智能系统能力所带来的风险，包括让人工智能开发者、部署者和用户掌握识别、评估和有效管理这些风险所需的知识和工具。

鼓励国防部和IC 按照《2020财年国防授权法案》（NDAA）第230 条的规定，进一步开发数字工程，特别是人工智能领域的职业发展途径和培训计划；

支持分配适当的资源并进行监督，以便在武装部队中保持一支强大的数字化工作队伍；

敦促相关委员会继续努力监督行政部门高效处理安全审查申请，特别强调迅速处理人工智能人才的申请，以防止任何积压或程序性延误。鼓励相关委员会制定立法，改善横向和高级职位安排机会以及其他机制，以改善和扩大人工智能人才进入军队的途径。

认识到实现AGI 的通用人工智能系统具有很大程度的不确定性和未知性。与此同时，人工智能工作组也认识到，对于AGI 的定义或正式实现AGI 的阈值尚未达成广泛共识。因此，我们鼓励相关委员会与专家协商，更好地定义AGI，确定AGI 发展的可能性以及AGI 发展所带来的风险程度，并在此分析基础上制定适当的政策框架；

鼓励相关委员会探索利用先进人工智能模型改善空间碎片管理和风险减缓的潜在机会。人工智能工作组承认美国航天局和其他机构间合作伙伴在处理空间碎片方面所做的大量努力，并认识到空间碎片对空间系统构成的威胁越来越大。因此，人工智能工作组鼓励各委员会与参与空间事务的各机构合作，发现能够加强这些重要减缓工作的新能力；

鼓励相关委员会与私营部门合作，继续解决并在可能的情况下缓解人工智能系统日益增长的能源需求，以确保美国能够保持与中共的竞争力，并降低能源成本；

人工智能工作组认识到人工智能的进步对生物技术等其他科学发现领域的重要性。人工智能有可能增加生物武器造成的风险，与联邦防范化学、生物、辐射和核威胁的努力直接相关。因此，人工智能工作组鼓励相关委员会考虑新兴生物技术国家安全委员会和国家科学、技术和创新委员会在这一领域的建议，包括与防止对手采购必要能力以推进人工智能增强生物武器计划有关的建议；

美国商务部长通过商务部工业与安全局对半导体、生物技术、量子计算等关键技术的出口管制拥有广泛的专属权限，包括软硬件。人工智能工作组鼓励相关委员会确保商务部工业与安全局积极主动地管理这些技术，并调查是否需要新的授权来应对人工智能独特而迅速发展的能力，包括为高端人工智能芯片实施片上安全机制的可行性；

制定一个框架，以确定何时或是否应对功能强大的人工智能系统实施出口管制；

制定一个框架，用于确定何时人工智能系统会强大到对国家安全构成严重威胁，以至于应将其视为机密，可采用的方法包括能源部如何处理受限数据。

确保相关联邦机构拥有适当的权力，与盟友和国际伙伴合作，推进关于人工智能的双边和多边协议；

制定立法，建立或参与国际人工智能研究机构，或与志同道合的国际盟友和合作伙伴建立其他伙伴关系，同时适当考虑对研究安全和知识产权的潜在威胁；

制定立法，扩大司法部、国土安全部和其他相关执法机构对现代数据分析和供应链平台的使用，以打击非法药物的流通，包括芬太尼和其他合成阿片类药物；

与行政部门合作，支持信息的跨境自由流动，防止美国技术的强制转让，并通过允许各国解决安全、隐私、监控和竞争等问题的协议，促进美国创造者和企业出口数字产品的开放市场。在俄罗斯推进其审查、压制和监视的网络议程之际，人工智能工作组鼓励行政部门避免制造俄罗斯将填补的政策真空，以确保数字经济对所有人都保持开放、公平和有竞争力，包括其工作依赖于数字贸易的300 万美国工人。