动态 | NIST发布新指示，要求人工智能科学家消除模型中的意识形态偏见 - 新鲜讯息

点击蓝字关注我们

近日，美国国家标准与技术研究院（NIST）向美国人工智能安全研究所（AISI）合作科学家发布了一项新指示，引发了广泛关注。该指引不再对合作科学家提出“人工智能安全”、“负责任的人工智能”和“人工智能公平性”等技能要求，转而强调“减少意识形态偏见，以促进人类繁荣和经济竞争力”等内容。

该信息源自NIST于三月初向人工智能安全研究所联盟成员发送的最新合作研发协议。此前，该协议鼓励研究人员开展技术工作，以识别和纠正与性别、种族、年龄或财富不平等相关的歧视性模型行为，通过强调“人工智能公平性”来应对此类偏见对终端用户（尤其是少数群和经济弱势群体）的伤害，但特朗普政府的人工智能研究重点转向提升经济竞争力。

同样值得注意的是，最新协议中删除了有关开发“用于验证内容及其来源”以及“标注AI生成内容”工具的表述。这一调整反映出相关方对追踪虚假信息和深度伪造内容的重视程度有所下降。与此同时，协议特别强调了“美国优先”原则，要求组建专门工作组，致力于开发测试工具，“以提升美国在全球人工智能领域的地位”。

一位与人工智能安全研究所合作的研究人员表示：“特朗普政府已将安全性、公平性、虚假信息以及责任性从其重视的人工智能价值中移除。”该研究人员警告称，忽视这些问题可能导致算法将不受监管地基于收入或其他人口统计特征实施歧视性行为，从而对普通用户造成损害。该研究人员预计，“人工智能将变得不公平、不安全且具有歧视性，并将被不负责任地使用”。

马斯克推动政府改革，

人工智能领域政治化加剧

埃隆·马斯克（Elon Musk）目前正代表特朗普总统领导一场颇具争议的削减政府开支和精简官僚机构的行动。他多次批评OpenAI和谷歌开发的人工智能模型，并在社交媒体上公开指责这些模型存在“种族主义”和“觉醒派”倾向。马斯克旗下的xAI公司正与OpenAI和谷歌等公司展开直接竞争。据《WIRED》报道，一位为xAI提供咨询的研究人员最近开发了一种可能改变大型语言模型政治倾向的新技术。

越来越多的研究表明，人工智能模型中的政治偏见对自由派和保守派都会产生影响。例如，2021年一项关于推特推荐算法的研究显示，用户在该平台上更有可能看到右倾观点的内容。

自今年1月以来，马斯克领导的“政府效能部”（Department of Government Efficiency，简称DOGE）在美国政府体系内掀起整顿浪潮。该部门通过实际裁减公务员岗位、暂停财政支出等措施，营造出被外界认为不利于特朗普政府政策反对者的氛围。近期，教育部等部分联邦政府部门已对涉及多元公平包容（Diversity, Equity and Inclusion, DEI）的文件进行归档清理。与此同时，政府效能部（DOGE）的整顿矛头直至NIST，即AISI的上级主管机构，过去三周内该研究院已有数十名职员遭解聘。

白宫主导人工智能研究议程，

拜登政府政策被撤销

人工智能安全研究所合作机构，非营利组织Eleuther的执行董事Stella Biderman表示：“（人工智能治理领域的）变化几乎都是直接来自白宫。”去年12月，特朗普任命David Sacks为白宫人工智能和加密货币事务主管。目前尚不清楚David Sacks本人或白宫的其他人是否参与了新研究议程的制定。

2023年10月，拜登政府发布了一项行政命令（EO ），成立了AISI，以应对最强大的人工智能模型的系列潜在问题，例如它们是否会被用于发动网络攻击或开发化学、生物武器。然而，今年1月，特朗普政府发布新的行政命令撤销了拜登行政命令，但保留了人工智能安全研究所，并提出“为了保持这种领导地位，我们必须开发出免受意识形态偏见和人为社会议程影响的人工智能系统”。

今年2月，在巴黎人工智能行动峰会中，美国副总统JD Vance发表讲话称，美国政府将以提升美国在人工智能领域的竞争优势作为首要任务。Vance强调，在人工智能领域取得领先地位和成功，不能仅仅依靠过度关注和强调安全问题。值得注意的是，美国出席此次峰会的代表团中没有来自人工智能安全研究所的人员。

随着特朗普政府调整人工智能研究重点，全球人工智能领域的竞争格局或将发生新的变化。

来源：

https://www.wired.com/story/ai-safety-institute-new-directive-america-first/

网络法理论与实务前沿编辑，赵盼盼