前沿观察 | 国际多方呼吁警惕AI带来的风险 - 新鲜讯息

扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

据路透社当地时间周三报道，白宫官员证实，谷歌、微软、OpenAI和人工智能（AI）研究公司Anthropic的首席执行官，将于当地时间周四与美国副总统卡玛拉·哈里斯和高级政府官员会面，讨论人工智能的关键问题。

一名白宫官员透露，哈里斯和政府官员将在会议上告诉这些涉足AI领域的企业高管，他们有责任减轻人工智能工具的潜在危害。美国总统拜登也在邀请函中希望科技公司在向公众提供产品之前必须确保其产品安全。

上个月，拜登已经强调了对人工智能相关产品监管的必要性，尽管他表示人工智能是否具有真正的威胁还有待进一步观察。拜登称，社交媒体已经说明了强大的AI技术在没有正确保护措施的情况下可能造成的危害。

事实上，自去年ChatGPT问世以来，引发了巨大的社会争议。由于AI的能力已经远超人们的预期，批评者对快速发展的AI技术的担忧包括侵犯隐私、偏见、欺诈以及散播谣言和虚假信息等。行业技术领导者近期也不断呼吁警惕AI带来的风险。

3月29日，上千名科技人士联名发表了一封公开信，呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的系统，直至解决相关的风险和问题。这一呼吁得到了不少关注与回应，短短两天，已有超过2300人签名。

近日宣布离开谷歌公司的“AI教父”杰弗里·辛顿（Geoffrey Hinton）表示，他担心互联网将充斥虚假照片、视频和文字，普通人“无法再辨别真假”。此外，辛顿还担心技术的“未来版本”会对人类构成威胁，因为“它们经常从分析的大量数据中学习到意想不到的行为”，并且目前无法想象如何防止坏人利用AI做坏事。

辛顿称，人工智能不仅会导致大量工作岗位消失，而且会导致人们没办法知道到底什么才是真实的。如果人工智能变得比人类聪明得多，就会对人类进行操控；人工智能知道怎么编程，就会想办法绕开人类对其设置的限制。

事实上，威胁已经显而易见。比如美国IBM公司将用人工智能取代7000余个工作岗位。IBM首席执行官克里希纳（Krishna）5月1日表示，公司的人力资源等内部职能部门的招聘工作将暂停或延后，这些并非直接面向客户的岗位在IBM大约有26000个。在未来5年内，其中30%的工作岗位将被人工智能和自动化取代。这意味着约7800人将会因此失去就业机会。

目前，各国政府都在积极寻求监管措施，以追赶技术进步的步伐。美国方面，商务部于上个月正式公开征求意见，要求各界对人工智能的问责措施发表评论。除了美国外，欧盟立法者也在加快推进对人工智能技术的监管。

上周，欧盟已提出新的立法草案，要求ChatGPT等人工智能工具的开发商披露他们在构建AI系统时使用的版权材料。作为监管方案，欧盟委员会执行副主席、竞争专员维斯塔格提出了在AI生成的文章和图像上显示“用AI制作”等标签的方案，还透露了提供生成式AI的企业有义务进行说明的想法。

欧盟立法者还在讨论如何引入欧盟人工智能法案，并且生成式AI（AIGC）成为最受关注的内容之一。欧盟委员会将于5月11日对相关协议进行投票，如果通过，将进入下一阶段的三方谈判，届时欧盟成员国将与欧盟委员会以及欧洲议会就谈判内容进行辩论。

中央财经大学证券期货研究所研究员杨海平表示，如对生成式人工智能不实行监管，可能产生数据安全、网络安全的风险，以及人工智能误用滥用带来的对生产秩序、生活秩序和社会秩序的冲击。更主要的是由于生成式人工智能基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的特征，如果不强化提供者责任，不实行严格监管，可能导致技术创新突破科技伦理的底线，偏离科技向善的方向，造成不可估量、不可挽回的损失。

杨海平表示，国外科学家呼吁暂停对更强大的AI系统的开发，中国出台生成式人工智能服务管理新规，都是在人工智能获得关键突破的关键时点，针对人工智能可能的风险隐患，采取理智的防范措施。人工智能的监管需要国际社会经过评估，划出统一的、清晰的安全底线，供各国共同遵守。

（来源：北京商报）

《中国安全信息》杂志倾力推荐

“企业成长计划”

点击下图了解详情