终结者来临？让开发者都畏惧的 AI 真的对人类有威胁吗

【CNMO】ChatGPT 是当下一个十分火热的话题，它是一款美国 OpenAI 研发的聊天机器人程序。能够通过理解和学习人类的语言来进行对话，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流，甚至能完成撰写邮件、视频脚本、文案、翻译、代码、写论文等任务。

人工智能

前一阵子，OpenAI CEO 奥特曼在与 MIT 研究科学家 Lex Fridman 长达 2 小时的对话中透露了他对人工智能的最新观点—— "AI 确实可能杀死人类。" 此外，奥特曼谈及了近期围绕 ChatGPT 产生的诸多问题，坦承就连 OpenAI 团队，也根本没搞懂它是如何 " 进化 " 的：从 ChatGPT 开始，AI 出现了推理能力。但没人能解读这种能力出现的原因。

OpenAI CEO 奥特曼

并且针对马斯克在推特上的 " 危险论 "，他直言：马斯克在我心中是英雄，我支持也理解他的担忧。虽然他在推特上挺混蛋的，但希望马斯克能看到我们在解决 AGI 安全问题上付出了多大的努力。

除此之外，在这场对话过程中，奥特曼还提到了不少刁钻的话题，例如：ChatGPT、GPT-4 开发的内幕、GPT-4 是人类迄今所实现的最复杂的软件、如何看待大家拿 ChatGPT 越狱等。

以往的许多影视作品中，出现了不少 AI 违背人类意愿并且引发动乱的情节。但由于此前该技术并不成熟，人们也仅仅将这些影视作品当做一种艺术手法。而当 " 人工智能拥有人格 " 这件事情离我们越来越近时，"AI 技术成熟后是否真的能对人类造成威胁 " 成为了我们必须要思考的问题。

AI 发展史

从上个世纪 50 年代开始，许多科学家、程序员、逻辑学家以及理论家等帮助和巩固了当代人对人工智能思想的整体理解。随着每一个新的十年，该技术的创新和发现改变了人们对人工智能领域的基本认知。

人工智能

1952 年，计算机科学家亚瑟 · 塞缪尔（Arthur Samuel）开发了一种跳棋计算机程序——第一个能够独立学习如何玩游戏的程序，它也可以被称为 " 初代 AI"。而 " 人工智能 " 一词最初是在 1956 年 Dartmouth 学会上提出的。

随后，人工智能的快速增长一直持续到 20 世纪 80 年代，随后便迎来了 " 人工智能冬季 "。当时，人工智能研究的资金急剧下降，许多科学家离开了这个领域。造成这种情况的主要原因是早期的 AI 系统无法跟上炒作。因为 " 它们 " 在当时只能完成简单的任务，比如识别物体或理解简单的命令。这使得许多人对人工智能失去了信心，并认为人工智能除了这些简单的任务之外，永远无法完成更多的事情。

从 2010 年开始，人工智能已经融入我们的日常生活中。例如我们日常使用带有语音助理功能的智能手机以及其他电子产品。这使得人工智能不再是一个白日梦，并且已经逐渐走上了正轨。

现如今，ChatGPT 的推出为用户提供了一个参与到 AI 技术工作流程中的机会，也提供了一个途径以使得长期对 AI 应用不甚了解的用户可以切实地体会 AI 技术的发展。这在 AI 的发展历程中具有一定的里程碑意义，意味着 AI 技术由 " 幕后 " 转向了 " 台前 "。

相关影视作品回顾

人们对于 " 人工智能 " 的兴趣和恐惧其实由来已久了，而 " 给假人赋予生命 " 的概念，也早就出现在科幻和童话作品里了。该类影视作品的的共同点都是人类作为造物主，制造出的新型 " 生命 "。但被赋予 " 生命 " 的方式却各不相同，有的是编写出的一套机器学习程序、有的是在一具假体上植入了人类记忆等。

《机器人趣话》

在中国，人工智能被大众所熟知要回溯到 1996 年春晚。蔡明和郭达共同演绎的小品《机器人趣话》，讲述了男主人公订购了一个进口的机器人老婆。结果发现，这个看似听话的机器人实则难以控制的故事。

此外，《机器人总动员（walle）》在国内乃至全球都享有超高的知名度，讲述了地球上的清扫型机器人瓦力偶遇并爱上了机器人伊娃后，追随她进入太空历险的一系列故事。

《机器人总动员（walle）》

以上影视作品的风格都偏向幽默、温馨，所有并没有让观众对人工智能产生恐惧的心理。而有些影视作品则将人工智能的恐怖之处体现得淋漓尽致，《我，机器人（I, Robot）》就是一部非常典型的作品。

它改编自阿西莫夫的同名小说《我，机器人》。这部科幻小说的地位非常高，进一步总结了机器人的三大法则，成为科学界共同遵守的铁律。

《我，机器人》

早在 1950 年，阿西莫夫就畅想未来，机器人和人类将如何成功，它们会忠诚到底吗？从该影片中，我们看到机器人不会永远忠诚。它们甚至会找理由造反，认为囚禁人类是为了保护人类。当他们攻击人时，它们认为保护人是实现人类生存的唯一途径。它们也认为自己的逻辑是无懈可击的，因为这是根据三大定律推演出来的结果，仔细想想的确十分吓人。

AI 真的能 " 杀 " 了人类？

现在我们从影视作品中回到现实，AI 技术成熟后是否真的能对人类造成威胁？以目前的人工智能的发展程度来说，人工智能暂时还不具备对人类造成威胁的实力，所以我们现在仅仅需要讨论人工智能对人类构成的潜在威胁。人工智能的普及和发展给我们带来了很多便利，但是，随着人工智能技术的不断发展，一些问题也逐渐浮现出来。

人工智能

首先，人工智能可能会对人类的就业产生影响。随着机器人和智能系统在各个行业中的普及，许多工人可能会失去工作。其次，人工智能可能会对人类的安全构成威胁。例如，如果某个国家的军事系统被黑客攻击，那么由人工智能控制的武器系统可能会被操纵，从而导致严重后果。此外，人工智能也可能会对人类的隐私产生威胁。随着机器学习和深度学习技术的发展，人工智能系统可以从大量的数据中学习出规律，甚至可以预测人类的行为，从而导致隐私泄露。

那么对于这些潜在威胁我们应该如何应对呢？CNMO 认为，首先，我们可以采取法律和政策措施来规范人工智能技术的应用。例如，对于某些高风险的应用场景，可以制定相应的安全标准和法规。其次，我们可以推广 AI 的公共意识和普及教育。人工智能是一门复杂的技术，需要广泛的知识储备和技能。因此，我们需要通过推广普及教育来提高公众对人工智能的理解和应用能力。