从《终结者》到《我，机器人》的三定律，机器人的价值观实现

导读：从《终结者》系列的天网系统到《我，机器人》的三定律，人工智能的伦理边界一直是科幻与现实交织的热议话题。杨耀东博士在本次演讲中，将这些概念与现代AI技术相结合，探讨了在智能化浪潮中，如何确保机器人的行为与人类价值观保持一致。这场演讲是对技术爱好者和未来学家的一次思想盛宴，不容错过。

价值共鸣：AI伦理的智能导航仪

杨耀东教授在演讲中提出，未来的人工智能不仅要技术高超，更要具备正确的价值判断力。他倡导的价值观对齐技术，通过深度学习与伦理学原理的结合，赋予机器理解并践行人类价值准则的能力。这项技术让AI在决策时能够体现人类的道德取向，成为负责任、有温度的智能伙伴，引领AI伦理的新时代。

安全对齐：智能时代的守护神

杨耀东教授提出，为确保AI在智能化浪潮中稳健前行，安全对齐技术是关键。通过引入带安全约束的大模型对齐框架，AI不仅学会遵守规则，更能在复杂环境中自我修正，避免潜在风险。这一技术赋予AI自我监督的能力，使其在提供高效服务的同时，确保每一步决策的安全性，为智能时代的和谐发展保驾护航。

DEPS框架：开放环境的智能导航者

在探索未知环境的征途上，杨耀东教授引领我们进入DEPS框架的新纪元——一个融合描述（Describe）、解释（Explain）、规划（Plan）与选择（Select）的智能决策系统。它赋予机器人以前所未有的适应力，使其在多变的开放世界中，能够自主推理、灵活规划，以精准行动应对每一次挑战。DEPS不仅标志着AI在复杂任务解决上的一大步，更是通向自主智能未来的桥梁。

NEWS

想看更多内容？

下载Link APP，精彩内容随心看

讲者介绍

杨耀东

杨耀东博士，北京大学人工智能研究院助理教授（博雅学者）、人工智能安全与治理中心执行主任、北京智源大模型安全项目主任。国家优青（海外）、中国科协青年托举人才。在智能体交互与对齐、强化学习等领域做出突出贡献，发表百余篇顶会论文，谷歌引用超五千次。曾获多项国际大奖，带领团队在Nature Machine Intelligence发表成果，主导多个大模型价值对齐项目。现任多个顶级会议领域主席，主持多项国家级科研项目。本科毕业于中国科学技术大学，后在伦敦帝国理工大学、伦敦大学学院获得硕士及博士学位。

关于栏目

《温故知新|专题精选》是CCF Link推出的系列内容分享，内容均摘自会议语音实录，有任何问题或建议，欢迎联系CCF会议

本文所发布的所有内容，包括但不限于文字、图片、视频、图表、程序等，除特别标明外，均来源于CCF数字图书馆，版权归原作者或原出处所有。若涉及版权问题，请及时联系我们进行处理。

点击“阅读原文”，下载CCF Link。