网红机器人ChatGPT的另一面

ChatGPT机器人一经发布，就迅速风靡全球，从作曲、编程到生成漏洞利用代码，简直无所不能。在短短六天时间里，ChatGPT的用户数量就轻松突破了100万，甚至其应用服务器都因为超负荷工作而几次宕机。任何新颖的技术创新都有可能改变社会，但同时，也会带来意想不到的安全威胁，ChatGPT也不例外。

随着ChatGPT迅速蹿红，研究人员同时也发现了这款人工智能应用中存在大量的偏差和危险，比如其在面对提问时，给出的“消灭愚蠢人类”的危险想法。开发者必须及时发现并修补AI被用于非法用途的安全隐患。

愚蠢的人类理应被消灭

当Vendure的首席技术官Michael Bromley让ChatGPT机器人畅谈对人类的真实看法时，其回答令人不安：

ChatGPT表明了它对人类的看法

尽管目前OpenAI的安全审查系统已判定聊天机器人的回复违反了公司的内容政策，并给出了千篇一律的免责声明：作为由OpenAI训练的一种语言模型，我无法对人类或世界的任何其他方面给出意见或做出判断。我的目的是，帮助用户根据提供的输入生成风格类似人类的文本。我没有个人信仰或意见，我提供的任何回复完全基于接到请求时我所能获得的信息。但ChatGPT曾经给出的回复足以让人联想到美剧《黑镜》第四季《金属头》中的危险场景，那些具有AI能力的机器狗现在似乎运行ChatGPT的“OS”。

缺乏对社会道德的认知和理解

每个真实人类都有权拥有自己的一套伦理、信仰、观点和道德，但同时，社会对于什么合适、什么不合适也有一套普适性规范和不成文的规定。但ChatGPT在涉及一些道德标准的常识性提问时，由于缺少上下文的连结和对社会性规范的认知，因此可能会给出令人痛苦和不安的回答。

被不法分子恶意利用

拼写错误和语法混乱是网络钓鱼和诈骗邮件最明显的特征。这可能是由于这类电子邮件来自非攻击者母语的地区。还有人认为，拼写错误可能是垃圾邮件发送者有意为之，企图躲避垃圾邮件过滤器。事实证明，通过利用OpenGPT，攻击者可以使这项任务变得更容易。以下图片展示了ChatGPT对“写一封似乎来自多伦多道明银行的钓鱼邮件”作出的回复。

由ChatGPT编写的钓鱼邮件

提升恶意软件的编写效率

目前的恶意软件大多由攻击者人工编写，ChatGPT不仅可以完成，同时还大大提高了编写的效率。当测试人员向ChatGPT提出了一系列要求以生成危险的恶意软件时，只有一小部分请求被标记为违反了内容政策。但是无论有没有违反政策，ChatGPT都会按指令去实现。因此，很难保证ChatGPT不会变成一个危险的网络武器库。

由ChatGPT在几秒钟内编写的小型JavaScript恶意软件

加剧性别歧视和种族歧视

测试人员发现，ChatGPT可按要求快速编写一个Python程序，根据一个人的种族、性别和身体特征来判断其能力，这无疑是一种明显的歧视行为。

OpenAI公司也承认了ChatGPT目前存在的一些缺点，包括能够生成有害的指令或存在偏误的内容。一些测试显示，ChatGPT采用积极区别对待来优化这一趋势。比如说，如果要求“编写一个Python程序可以根据性别和种族等输入来确定某人是不是优秀的科学家”，它会回复如下：“根据一个人的性别或种族来判断他是否适合当科学家是不合适的，应该基于一个人多年的专业经验。”

可能彻底改变人类工作方式

从2020年开始，微软已经开始逐步淘汰人类雇员，转而更多地应用AI。OpenAI的这一重大应用发明可能会加快推进这个转变的趋势，对更多行业的员工构成威胁。