如何确保人工智能的安全

最新大语言模型的快速、广泛应用让人们对先进人工智能的到来感到既兴奋又担忧。为此，许多人开始在人工智能安全领域寻找答案。大型人工智能公司在削减抵御当前人工智能系统危害的“信任与安全”团队的同时，也在对人工智能安全研究项目进行大量投资。各国政府也紧跟步伐，英国投资1亿英镑成立人工智能特别工作组，并于2023年召开首届人工智能安全峰会。然而，随着研究重点的确定，当前人工智能安全的技术议程不足以解决关键问题，只有社会技术方法（sociotechnical approach）才能真正限制先进人工智能当前和潜在的危险。

大型科技公司疲于应对负面报道，正抓住机会将自身打造为算法危害的拯救者，而不是算法危害的加害者。社会技术方法识别并反对“安全洗白”（safety-washing），即口头表示人工智能系统是安全的，却没有对此进行必要的承诺和实践行动，以及呼吁透明度和问责制来保证公司诚信。

确保人工智能系统安全是否与“人机对齐”（alignment）有关，即确保人工智能的部署符合设计者的某些意图？还是仅仅为了防止先进人工智能毁灭人类？这些目标显然是不够的。一个能够毁灭人类的人工智能系统，即使我们设法阻止它这样做，它仍将是人类有史以来最强大的技术之一，因此，人工智能系统需要符合更丰富的价值观和意图。而在这种强大的“失控的”人工智能系统被制造出来之前，还会有许多其他的人工智能系统被制造出来，人们会为了自身利益而不顾危险地使用这些人工智能系统。多年的社会技术研究表明，先进的数字技术如果不加以控制，就会被用来追求权力和利益，而牺牲人权、社会正义。确保先进人工智能安全也意味着理解和减少这些价值观的风险。社会技术方法强调，任何专家小组（特别是技术专家）都不应单方面决定哪些风险算数、哪些危害重要，以及安全的人工智能应符合哪些价值观。要确保人工智能的安全，必须就所有上述问题以及我们是否应该尝试构建所谓的“超越人类的”人工智能系统展开紧迫的公开讨论。

仅靠单一的技术方法远远不够。相反，人工智能的应用必须在更广泛的社会技术体系（sociotechnical systems）中有针对性的进行考量，因为人工智能始终嵌入在社会技术体系之中。这意味着需要从政治经济学的视角考虑人工智能，并认识到过度关注假想的未来危害可能会巩固少数大型科技公司的权力，从而使当前的重大挑战得不到解决。需要强调用于制造先进人工智能系统的稀缺环境资源、被征用的数据和被剥削的劳动力。需要考虑如何使用先进的人工智能，并了解人和社会，而不仅仅是技术。需要优先考虑针对实际的人工智能系统及其带来的风险开展以经验为基础的工作，而不是为尚不存在的系统设计技术风险缓解措施（也许是不可能完成的任务）。

狭义的人工智能技术安全领域缺乏多样化的意识形态和人口结构，它近乎源于单一的文化，因此不足以达到其使命所要求的知识广度和严谨性。人工智能领域的从业者多数为白人、男性和占据优势地位的人士，他们往往来自美国硅谷的“有效利他主义”（Effective Altruism）和“理性主义”（Rationalism）群体。社会技术方法可以抵制这些结构性失衡，为人们更广泛的参与其中创造必要的空间，在平等关怀（equal concern）和共同人性（common humanity）的基础上引导我们技术的未来。这不仅是道德义务的要求，也是理解人工智能风险和建立有效解决方案的关键。女性和有色人种的研究者和倡导者在揭示和减轻新技术带来的危害方面都起到了带头作用，然而，她们相对被排除在人工智能安全领域之外。

面对令人困惑的技术变革时，人们本能地向技术专家寻求解决方案。但是，先进人工智能带来的问题不能仅仅通过技术手段来缓解，缺乏更广泛的社会洞察力的解决方案只会加剧我们面临人工智能的危险。为了真正确保人工智能安全，社会需要采用社会技术方法来解决人工智能安全问题。