奥特曼对高度先进的人工智能系统的思考引发了研究人员和行业观察家的一系列反应。随着人工智能在各个领域超越人类的能力成为热门话题，科技界提出了一个重要问题：这种变化多久会发生，对人类意味着什么？
Altman 的帖子既具有挑衅性又具有推测性，可以作为业界对人工智能发展轨迹的希望和担忧的罗夏墨迹测试。
Related articles
怀疑论者的观点
虽然没有人否认人工智能正在迅速发展，但一些观察家表示，我们离超级智能还很远。
IBM 副总裁兼全球技术和数据战略主管 Brent Smolinski 表示：“这完全是夸大其词。” “我认为我们甚至没有达到实现超级智能的正确邮政编码。”
斯莫林斯基表示，尽管人工智能在某些领域取得了令人印象深刻的进步，但仍然缺乏类人智能的基本要素。 “我们从根本上缺失了一些东西，无法让我们实现超级智能，”他说。
一个关键问题是人类学习和机器学习之间的效率差距。斯莫林斯基对比了人工智能和人类的学习过程：“对于这些大型语言模型，要学习如何对话，你必须向它提供整个互联网语料库，以达到可以与它交互的程度。人类（需要）一小块。”
人工智能还远未达到人类在学习各种技能时所表现出的多功能性，从语言到打高尔夫球或驾驶汽车等体力任务。这种多功能性代表了人类智能和当前人工智能能力之间的根本区别。
斯莫林斯基概述了真正的超级智能的几个要素：归纳和演绎推理能力、创造力、通过心智模型的知识表示、实时学习和适应以及意识。
斯莫林斯基说，在人工智能领域，量子计算可能会解决一些计算限制，有可能“突破人工智能的极限”。但量子计算对实现真正的超级智能的影响仍然不确定。
斯莫林斯基强调的另一个问题是需要对超级智能有一个明确的、商定的定义。 “如果你让一个房间有 6 名计算机科学家，并询问他们超级智能意味着什么，你会得到 12 种不同的答案，”斯莫林斯基说。
超级智能营
奥尔特曼并不是唯一一个对超级智能做出预测的人。路易斯维尔大学计算机科学与工程教授 Roman V. Yampolskiy 表示，通用人工智能（通常被描述为类似于人类水平智能的计算）正在迅速发展，“在超级智能在 3-4 年内出现之后不久” ”。
亚姆波尔斯基警告说，一旦人工智能超越人类智能水平，几乎不可能维持对这样一个系统的控制。这种超级智能人工智能的运作方式从根本上是不可预测的，超出了我们管理或限制的能力。研究人员表示，这种缺乏控制的情况，加上超级智能系统可能不分享或优先考虑人类价值观的可能性，可能会导致威胁人类生存的情况。
“相比之下，就负面影响而言，偏见、失业、深度造假、错误信息等所有直接问题都是微不足道的，”他说。
意识难题
意识是超级智能讨论中的一个特殊症结：超级智能机器是否需要有意识才能超越我们？斯莫林斯基认为，真正的超级智能不仅需要计算能力，还需要某种形式的意识或自我意识——这是当前人工智能系统所缺乏的特征。
当前的人工智能模型擅长组合创造力，以新颖的方式结合现有的想法。但他们需要帮助才能实现真正的变革性飞跃。斯莫林斯基推测，这种变革性创造力可能以一种鲜为人知的方式与意识联系在一起。
因此，斯莫林斯基对围绕人工智能的过度恐惧感到担忧。
“我担心的是，这种行为会助长一些恐慌情绪，从而导致‘哦，我们必须监管人工智能’之类的事情，”斯莫林斯基说。虽然监管很重要，但它可能会保护老牌参与者，同时为新进入者设置障碍，从而可能阻碍进展。
斯莫林斯基提出了最后的想法，强调了对人工智能发展保持平衡观点的重要性：“人工智能是一个强大的工具，可以帮助我们解决复杂的问题。但我们需要深思熟虑地对待它的发展，清楚地了解它当前的局限性和未来的可能性。”
电子书：如何选择合适的基础模型
后人工智能超级智能：炒作还是现实？首先出现在 IBM 博客上。
