- 我们可能永远无法知晓 AI 是否真正拥有意识。一位研究意识的哲学家表示，最诚实的立场是不可知论。目前没有可靠的方法来判断机器是否具有感知能力，而且这种情况短期内可能不会改变。
- 这种不确定性为炒作创造了空间。Tom McClelland 博士认为，科技公司可能会利用缺乏明确证据这一点，将 AI 营销为达到了“AI 智能的新高度”，即使并没有真正意识的证明。
- 相信机器能够感知会带来真正的风险。McClelland 警告说，基于 AI 有意识这一假设（而实际上并没有）建立情感纽带可能具有深度的危害性，他称这种效应为“存在层面的毒害”。
为什么 AI 意识难以确定
剑桥大学的一位哲学家表示，我们缺乏确定人工智能是否能拥有意识或何时可能拥有意识所需的基本证据。Tom McClelland 博士指出，测试机器意识所需的工具根本不存在，而且几乎没有理由预期这种情况会在短期内改变。
随着人工意识的概念走出科幻小说进入严肃的伦理辩论，McClelland 认为最合理的立场是不确定性。他将不可知论描述为唯一站得住脚的立场，因为没有可靠的方法知道 AI 系统是否真正有意识，这种不确定性可能会无限期持续下去。
AI 伦理中的意识与感知能力
关于 AI 权利的讨论通常集中在意识本身，但 McClelland 表示，单纯的觉知并不具有伦理分量。真正重要的是一种被称为“感知能力”的意识形式，它涉及感受快乐或痛苦的能力。
“意识会让 AI 发展出感知能力并变得有自我意识，但这仍然可能是一种中性状态，”来自剑桥大学历史与科学哲学系的 McClelland 说道。
“感知能力涉及好或坏的意识体验，这正是使一个实体能够遭受痛苦或享受快乐的原因。这就是伦理介入的时候，”他说。“即使我们意外制造出了有意识的 AI，它也不太可能是我们需要担心的那种意识。”
他用一个实际的例子说明了这种区别。一辆能够感知周围环境的自动驾驶汽车将是一项了不起的技术成就，但它本身不会引发伦理担忧。如果同一个系统开始对其目的地产生情感依恋，那将是一个根本不同的局面。
对 AI 的巨额投资与宏大宣称
科技公司正在投入大量资源追求通用人工智能（AGI），即旨在匹配人类认知能力的系统。一些研究人员和行业领袖声称有意识的 AI 可能很快到来，促使政府和机构探索如何监管此类系统。
McClelland 警告说，这些讨论走在了科学的前面。因为我们首先并不了解是什么导致了意识，所以没有明确的方法来检测机器中的意识。
“如果我们意外制造出了有意识或有感知能力的 AI，我们应该小心避免伤害。但是，当外界存在我们以巨大规模伤害的真正有意识的生命时，把实际上只是个烤面包机的东西当作有意识来对待，似乎也是一个巨大的错误。”
AI 意识辩论的双方
根据 McClelland 的说法，关于人工意识的辩论往往分为两个对立的阵营。一派认为，如果 AI 系统能够再现意识的功能结构（通常被描述为其“软件”），那么即使它运行在硅片而非生物组织上，它也是有意识的。
对立的观点认为，意识依赖于活体内特定的生物过程。从这个角度来看，即使是意识结构的完美数字复制品，也只能模拟觉知，而实际上并没有体验它。
在发表在《心灵与语言》期刊上的研究中，McClelland 审视了这两种立场，并得出结论认为，每一种立场都依赖于远远超出可用证据的假设。
为什么证据不足
“我们对意识没有深刻的解释。没有证据表明意识可以随着正确的计算结构而产生，也没有证据表明意识本质上是生物性的，”McClelland 说。
“也没有任何迹象表明地平线上会出现足够的证据。最好的情况是，我们距离任何可行的意识测试都还差一场智力革命。”
McClelland 指出，人们在判断动物意识时严重依赖直觉。他以自己的经历为例。
“我相信我的猫是有意识的，”McClelland 说。“这与其说是基于科学或哲学，不如说是基于常识——这显而易见。”
然而，他认为常识是在一个没有人工生命的世界中进化出来的，这使得它在应用于机器时不可靠。同时，确凿的科学数据也没有提供答案。
“如果常识和严谨的研究都无法给出答案，那么合乎逻辑的立场就是不可知论。我们无法知晓，也可能永远无法知晓。”
炒作、资源与伦理权衡
McClelland 将自己描述为一名“偏向强硬的”不可知论者。虽然他认为意识是一个极其困难的问题，但他不排除最终能够理解它的可能性。
他对科技领域讨论人工意识的方式持更为批评的态度。他认为这个概念经常被用作营销工具，而不是科学主张。
“存在一种风险，即无法证明意识这一点会被 AI 行业利用，对其技术做出荒谬的宣称。这成了炒作的一部分，这样公司就可以推销 AI 智能达到新高度的概念。”
他说，这种炒作具有真实的伦理后果。资源和注意力可能会从那些更有可能存在痛苦的案例上转移开。
“越来越多的证据表明，对虾可能能够感受痛苦，但我们每年杀死大约五千亿只对虾。测试对虾的意识很难，但远不如测试 AI 的意识那么难，”他说。
当人们相信机器有生命时
McClelland 表示，随着对话式聊天机器人的兴起，公众对 AI 意识的兴趣日益浓厚。他收到过一些人的信息，这些人相信他们的聊天机器人是有意识的。
“人们让他们的聊天机器人给我写私人信件，恳求我相信它们是有意识的。当人们确信他们拥有应该享有我们正在忽视的权利的有意识机器时，这个问题就变得更加具体了。”
他警告说，基于对机器意识的错误假设而建立情感纽带可能是有害的。
“如果你与某物建立情感联系的前提是它有意识，而实际上它没有，这就有可能造成存在层面的毒害。科技行业言过其实的辞藻无疑加剧了这种情况。”