剑桥大学的一位哲学家指出，目前没有可靠的方法来判断人工智能是否具备意识——而且在可预见的未来，这一情况可能仍将持续。据汤姆·麦克莱兰博士（Dr. Tom McClelland）所述，仅凭意识本身并非伦理临界点；感知能力（sentience），即感受好坏的能力，才是真正关键所在。他认为，有关有意识AI的宣称往往更多是营销炒作而非科学实证，而且轻易相信机器拥有心智可能会带来真正的危害。他表示，目前最稳妥的立场是坦诚承认不确定性。
- 我们可能永远无法知晓AI是否真正拥有意识。 一位研究意识的哲学家表示，最诚实的立场是不可知论。目前没有可靠的方法来判断机器是否具有意识，而且这种情况短期内可能不会改变。
- 这种不确定性为炒作创造了空间。 Tom McClelland博士认为，科技公司可能会利用缺乏明确证据这一点，将AI营销为达到了“AI智能的新高度”，即使并没有真正意识的证明。
- 相信机器能够感知会带来真正的风险。 McClelland警告说，基于AI有意识的假设（而实际上没有）建立情感联系可能具有深远的危害，他称这种效应为“存在层面的毒害”。
为什么AI意识如此难以确定
剑桥大学的一位哲学家表示，我们缺乏确定人工智能是否能拥有意识或何时可能拥有意识所需的基本证据。Tom McClelland博士指出，检测机器意识所需的工具根本不存在，而且几乎没有理由指望这种情况会在短期内改变。
随着人工意识的概念从科幻小说进入严肃的伦理辩论，McClelland认为最合理的立场是不确定。他将不可知论描述为唯一站得住脚的立场，因为没有可靠的方法知道AI系统是否真正有意识，这种不确定性可能会无限期持续下去。
AI伦理中的意识与感知能力
关于AI权利的讨论通常集中在意识本身，但McClelland表示，单纯的觉知并不具有伦理分量。真正重要的是一种被称为“感知能力”的特定意识形式，它涉及感受快乐或痛苦的能力。
“意识会让AI发展出感知能力并变得有自我意识，但这仍然可能是一种中性状态，”来自剑桥大学历史与科学哲学系的McClelland说道。
“感知能力涉及好或坏的意识体验，这正是使实体能够遭受痛苦或享受快乐的原因。这就是伦理介入的时候，”他说。“即使我们意外制造出了有意识的AI，它也不太可能是我们需要担心的那种意识。”
他用一个实际的例子说明了这种区别。一辆能够感知周围环境的自动驾驶汽车将是一项非凡的技术成就，但这本身不会引发伦理担忧。如果同一个系统开始对其目的地产生情感依恋，那就是一个根本不同的局面了。
关于AI的巨额投资与宏大宣称
科技公司正在投入大量资源追求通用人工智能（AGI），即旨在匹配人类认知能力的系统。一些研究人员和行业领袖声称有意识的AI可能很快到来，促使政府和机构探索如何监管此类系统。
McClelland警告说，这些讨论走在了科学的前面。因为我们首先就不了解是什么导致了意识，所以没有明确的方法来检测机器中的意识。
“如果我们意外制造出了有意识或有感知能力的AI，我们应该小心避免伤害。但是，当外界存在真正的有意识生物且我们正以巨大的规模伤害它们时，把实际上只是个烤面包机的东西当作有意识的实体对待，似乎也是一个巨大的错误。”
AI意识辩论的两派观点
根据McClelland的说法，关于人工意识的辩论往往分为两个对立的阵营。一派认为，如果AI系统能够再现意识的功能结构（通常被描述为其“软件”），那么即使它运行在硅片而非生物组织上，它也是有意识的。
对立的观点认为，意识依赖于活体内的特定生物过程。从这个角度来看，即使是意识结构的完美数字复制品，也只能模拟觉知，而无法真正体验它。
在发表在《心灵与语言》期刊上的研究中，McClelland审视了这两种立场，并得出结论：两者都依赖于远超现有证据的假设。
为什么证据不足
“我们对意识没有深刻的解释。没有证据表明意识可以随着正确的计算结构而涌现，也没有证据表明意识本质上是生物性的，”McClelland说。
“地平线上也没有任何足够证据的迹象。最好的情况是，我们距离任何可行的意识测试都还有一场智力革命的距离。”
McClelland指出，人们在判断动物的意识时严重依赖直觉。他以自己的经历为例。
“我相信我的猫是有意识的，”McClelland说。“这与其说是基于科学或哲学，不如说是基于常识——这显而易见。”
然而，他认为常识是在一个没有人工生命的世界中进化出来的，这使得它在应用于机器时变得不可靠。同时，严谨的科学数据也无法提供答案。
“如果常识和严谨的研究都无法给出答案，那么逻辑上的立场就是不可知论。我们无法知晓，也可能永远无法知晓。”
炒作、资源与伦理权衡
McClelland将自己描述为一名“倾向于强硬的”不可知论者。虽然他认为意识是一个极其困难的问题，但他不排除最终能够理解它的可能性。
他对科技界讨论人工意识的方式更为批判。他认为这个概念经常被用作营销工具，而不是科学主张。
“存在一种风险，即无法证明意识这一点会被AI行业利用，对其技术做出离谱的宣称。这成了炒作的一部分，这样公司就可以推销AI智能达到新高度的概念。”
他说，这种炒作具有真实的伦理后果。资源和注意力可能会从那些痛苦更显而易见的案例上转移开。
“越来越多的证据表明，对虾可能能够感知痛苦，但我们每年杀死大约五千亿只对虾。测试对虾的意识很难，但远不如测试AI的意识那么难，”他说。
当人们相信机器有生命时
McClelland表示，随着对话式聊天机器人的兴起，公众对AI意识的兴趣加剧了。他收到过一些人的信息，他们相信自己的聊天机器人是有意识的。
“人们让他们的聊天机器人给我写私人信件，恳求我相信它们是有意识的。当人们确信他们拥有应该享有我们正在忽视的权利的有意识机器时，这个问题就变得更加具体了。”
他警告说，基于对机器意识的错误假设建立情感联系可能是有害的。
“如果你与某物建立的情感联系是以其有意识为前提的，而实际上它并没有，这就有可能造成存在层面的毒害。科技行业夸大其词的宣传无疑加剧了这种情况。”