一本新书指出，人工智能建立在一种有缺陷的假设之上，该假设可追溯至艾伦·图灵1950年那篇著名的论文。彼得·J·丹宁认为，人类智能最重要的部分，包括常识、直觉、文化和实践诀窍，无法被编码进计算机。他认为，无论语言模型变得多么庞大，这都使得真正达到人类水平的人工智能无法实现。
丹宁在他的新书《图灵的错误：逃离非智能机器的枷锁》中指出，图灵于1950年提出的两个基础假设至今仍在影响着人工智能的研究。第一个假设是，智能可以独立于物理躯体存在，因此可以在计算机软件中重现。第二个假设是，机器可以通过在对话中成功模仿人类来展示智能，这一观点后来被称为图灵测试。
“这两个主张塑造了大部分的人工智能研发，”丹宁写道。“我的前提是，我们对这些主张的默许导致了我们今天所处的这一人工智能困局。”
丹宁认为，追求通用人工智能（AGI），即具有人类智能水平的机器，不太可能成功。相反，他警告说，社会正在构建的技术可能会带来重大的新风险。
隐性知识问题
丹宁论点的核心是隐性知识的概念，即大量难以用语言表达或难以转化为计算机可处理形式的人类理解。
他说，机器学习无法捕捉五大类隐性知识：常识、与人和环境的日常互动、情感与感知、实践表现技能，以及植根于文化中的社会和历史知识。
研究人员长期以来一直试图将常识组织成数据库。最著名的尝试之一是道格拉斯·莱纳特（Douglas Lenat）的Cyc项目，该项目始于1980年代，目标是创建一个广泛的常识事实集合。经过四十年的工作，该项目包含大约2500万条目。
“然而，即使是这一宝库也无法累积成足以让专家系统聪明到成为专家的常识背景，”丹宁指出。“Cyc验证了让人们成为专家的大部分知识无法表述为命题。”
丹宁认为，实践技能构成了更大的挑战。
“我们在成千上万个领域的表现技能无法传达给机器，”他解释道。“虽然对熟练结果的描述（‘知道是什么’）通常可以表示为比特并存储在机器中，但我们不知道如何编码用于熟练表现的具身知识（‘知道怎么做’）。”
他以造诣深厚的音乐家为例。
“一位小提琴演奏家能演奏美妙的音乐，却无法向学徒描述如何做到这一点。
“即使机器人能观察并模仿熟练的人类，但由于没有生物躯体，机器人无法领会音乐家演奏美妙音乐时的感受，也无法领会观众聆听时的感受。”
丹宁还将直觉、本能感觉、想象力和自发的创造力列入机器无法触及的隐性知识形式之中。
为何人类知识抗拒编码
丹宁认为，所有限制都源于他所谓的“表征问题”。
计算机只能使用已被编码成其可识别和处理的物理形式的数据和指令来执行计算。然而，隐性知识并不天然适合该框架。
“每个词语背后都有一口赋予其意义的隐性知识的深井，”丹宁说。“词语只是意义的符号表征，而非意义本身。常用的大语言模型，如ChatGPT、Claude和Gemini，只是操纵词语，它们无法知晓或理解自己所说内容的意义。”
据丹宁所述，这造成了一道根本的鸿沟。因为科学家仍无法完全解释隐性知识在人类身上是如何运作的，他们也就无法将其转化为机器可用的形式。
“我们如何承载隐性知识在很大程度上是个谜，”丹宁承认。“我们只知道它是具身的。我们不知道在身体中可以观察和测量什么来揭示它。”
语境与文化塑造智能
丹宁还认为，智能在很大程度上依赖于语境，即赋予言语、行动和决策以意义的周围环境。
语境让人们能够识别讽刺、幽默、真诚和情感。它有助于判断何时应讲究策略，何时可以开玩笑，以及如何解读无数的社会暗示。
“当你探究当前语境下的某个假设源自何处时，你会发现它建立在先前语境下的先前对话之上。而那些对话中的每一个又建立在更早的对话及其语境之上。这种模式是无尽且分形的，”丹宁解释道。
文化构成了人工智能的另一大障碍。
丹宁将文化描述为包含价值观、规范、判断、历史、社区、情绪，甚至涉及权力和关怀的关系。
“人类对话充满了背景假设，这些假设赋予所使用的词语以意义和关联性，”丹宁解释道。
“用更大的神经网络扩展大语言模型（LLM）并不能使其获得我们称之为文化的具身人类知识。LLM将无法实现图灵测试的目标：展示与人类思维无法区分的机器思维。”
AI安全与人类理解的局限
丹宁总结道，人类和AI系统最终可能会发展出不同形式的隐性知识，双方都无法完全理解对方。
“机器无法解读我们的隐性知识，我们也无法解读它们的，”他写道。“我们就像隔着一道无法逾越的鸿沟的异类。”
他认为，这种差距引发了对AI安全的严重担忧。如果机器无法解读人类意图背后未言明的语境，可靠地将高级AI系统与人类目标对齐可能是不可能的。
“通过AI自动化，代理机器网络可能会发展出它们自己的机器智能，这种智能虽未达到人类通用智能的水平，但仍极有能力给人类制造严重问题。这种威胁比超级智能机器的接管更大，”他解释道。
“机器智能关注的事物与我们不同，而且似乎并不关心我们。它的思维和解决问题的方式在我们看来很陌生。我们还不知道如何与这些机器安全地共存。
“从AI自动化奇点退缩将对我们提出很高的要求。我们要首先接受这样一个事实：随着智能机器出现在我们的社会中，熟悉的文化正在消逝，而我们不知道未来会怎样。我们拒绝像机器一样思考或屈从于机器。我们拒绝屈服于低智能机器强加的枷锁。最重要的是，我们要重申我们的人性，再次宣告使我们区别于机器的特质，并赞颂这些差异。”