图灵奖获得者姚期智：AI会将管理数据安全的困难放大100倍，还可能带来大规模的失业

2024世界人工智能大会暨人工智能全球治理高级别会议于7月4日在上海举行。图灵奖获得者、中国科学院院士姚期智出席并演讲。

姚期智表示，AI风险来自于三个方面。首先，随着AI能力出现，传统的数据和网络安全风险被放大，AI会将管理数据安全的困难放大100倍。

其次是难以意识到的社会风险，AI非常强大且有很多种使用方式，存在短期内颠覆现有社会结构的可能性，比如，AI可能带来大规模的失业。

第三是生存或者存在的风险，强大的AI技术在改变世界，这一次颠覆性的力量可能比核生化威胁更具威胁性。“所有这些风险都需要很多专家来解决，不仅是科学家，还可能需要政府、律师、经济学家来参与，几乎涉及到每一个行业。”

姚期智指出，AI相当于把网络风险放大。“AI可以说有些是无法解释，在数学上无法掌握，对我们来说是一个挑战。”

“简单来说，突然发现了一个方式，创造一个新的物种，这个物种比我们强大很多倍，我们是不是确定能跟它共存？如果无动于衷，就会被灭亡，这也是毫无疑问。这也是计算机的本质，或者是恶意行为者所带来的情况。”姚期智表示，“一方面我们把AI控制好，毕竟这是我们设计出来的；另外一方面，也不希望它被我们给破坏了，权衡是非常困难的。正如图灵所说，这是无法预测的，预测不了机器有了足够算力之后会做什么。”

来源：睿见Economy