姚期智：如果能设计出最安全的AI，就会赢得市场

图灵奖得主、2024基础科学终身成就奖得主、中国科学院院士姚期智近日表示，未来人们需要对AI进行更多理论研究，同时关注AI在关键应用中的安全风险。

“如果你可以设计出最安全的AI技术，那么就可以赢得市场。因此，确保AI安全性，不仅能够在未来防止AI滥用，也能确保商业上的发展和成功，更重要的是，解决这一问题也推动了基础科学的发展。”

来源｜中新网

以下为全文

3月21日，在清华大学举办的2025国际基础科学大会(ICBS2025)新闻发布会上，姚期智表示，目前AI领域的前沿研究更像实验科学，即人们取得了很多成就，拥有很多数据，但依然不太了解其根源。因此，我们需要更加深入地了解AI原理和基准，将AI控制得更好，并优化算法。

在AI发展过程中，姚期智强调需要更多地关注AI安全。例如AI幻觉会对其在关键领域的应用带来难以承担的风险。因此，了解这种不安全的现象出现的原因至关重要。很多人认为，AI发展和保障AI安全性之间存在矛盾，最终不得不做出取舍或平衡，然而，姚期智认为，这两者实际上能够合二为一。

姚期智说：“如果你可以设计出最安全的AI技术，那么就可以赢得市场。因此，确保AI安全性，不仅能够在未来防止AI滥用，也能确保商业上的发展和成功，更重要的是，解决这一问题也推动了基础科学的发展。”

谈及全球生成式人工智能的主力军大多数是“90后”“95后”，甚至“00后”，姚期智解释，虽然AI这门科学和计算机科学差不多诞生于同一时代，已有七八十年的历史，但大模型的出现为AI研究开辟了新的路径。从技术上来说，AI不像数学、物理研究需要大量复杂的基础知识，相较而言更容易上手。因此很多年轻人在大学本科阶段就能够看到AI领域的前沿。“DeepSeek团队100多位了不起的年轻人所做的工作就非常令人兴奋，它使得AI学科在中国的发展取得了非常有利的地位。”

智探AI应用交流群，有兴趣的朋友请添加群主：cosmic-walker 备注：公司+姓名+职务+AI入群。