随着人工智能变得越来越先进，关于AI系统误导用户、协同工作或似乎在追求独立目标的报道变得越来越普遍。这些行为常常导致人们描述AI时，仿佛它能思考、感受或自己做决定。但是，表现得像人类真的能让人相信机器具有意识吗？
慕尼黑大学（LMU）的一项新研究表明，人们能JianCe区分表现出智能行为与拥有有意识的心智，即使人类和AI的行为方式完全相同。
科学家如何测试对AI意识的认知
这项发表在《认知》（Cognition）杂志上的研究由慕尼黑大学心智哲学教席的路易·隆金（Louis Longin）博士主导，与巴哈多尔·巴哈拉米（Bahador Bahrami）博士、奥菲莉亚·德罗伊（Ophelia Deroy）教授及其他研究人员共同完成。
“以往的研究通常提出一些关于AI是否真正具有心理状态的一般性问题，而我们的研究首次直接比较了在完全相同的情况下，人们如何将相同的心理状态归因于行为完全相同的AI和人类，”隆金说。
“我们可能会使用心理学术语来指代AI，但这可能只是因为我们没有更好的词汇，”哲学家兼该研究资深作者奥菲莉亚·德罗伊说。“毕竟，AI被训练得像人类一样行动和说话，因此这些描述看起来很自然。”
为了调查人们如何判断意识，研究人员进行了涉及近1,100名参与者的实验。其中一组阅读了对人工代理的简短描述，这些代理对其环境表现出不同程度的反应能力。例如，一些代理会对声音做出反应或识别他人的情绪状态。
另一组遇到相同的情况，只是角色被描述为人类而非AI系统。然后，参与者评估了每个角色对其周围环境的意识或感知程度。
人类与AI意识之间令人惊讶的差距
实验表明，反应能力影响了参与者对人类和人工智能的判断。对周围环境反应更积极的角色通常被认为具有更高的意识和感知力。
然而，当参与者专门评估意识时，出现了显著的差异。即使是反应最灵敏的AI，其意识评分也低于反应最迟钝的人类。换句话说，相同的行为并没有让人们赋予人类和机器相同水平的意识。
当参与者被问及感知力时，结果发生了相当大的变化。对于这一特征，对人类和AI的判断遵循了基本相似的模式，这表明人们对感知力和意识的解读存在根本差异。
“在公众讨论中，人们越来越担心，看到AI表现出类似人类的行为后，会开始把这些系统当作具有类似人类心理状态来对待，”该研究的主要作者隆金说。“我们发现的情况要微妙得多：人们非常乐意承认AI能注意到事物并感知其周围环境。但在涉及‘意识’一词时，他们明确划清了界限。人们始终认为AI的意识少于人类——即使它们的行为完全相同。”
尽管人们在讨论AI的行为时有时会将其描述为有意识的，但研究结果表明，他们仍然能区分人工系统和人类心智。
为何一个词改变了我们对AI的认知
研究人员认为，意识和感知力之间的差异为人们如何理解人工智能提供了重要见解。
感知力是一个相对中性的术语，可以描述代理检测和响应环境中信息的能力。然而，意识带有更深层含义，涉及主观体验以及拥有内在精神生活的意义。
因为感知力更直接地关注可观察的行为，人们似乎能轻松地将其应用于人类和AI。意识则带有不同的含义，导致人们对两者的判断大相径庭。
研究结果还强调了为什么用于讨论人工智能的语言很重要，特别是随着AI系统越来越能够产生令人信服的人类行为。
“我们的研究为我们如何就AI进行沟通提供了经验，”同样身为该研究资深作者及社会神经科学专家的巴哈多尔·巴哈拉米说。“公司和记者经常对AI模型使用炒作性的描述，并赋予它们意图、计划，甚至道德良知和犹豫。我们的研究表明，日常判断要更具辨别力：人们不会简单地将AI和人类放在同一心理天平上。但这种边界也取决于我们使用的术语。对于‘感知力’等更中性的描述词，这种差异在很大程度上会消失。这使得我们对语言的选择变得重要。”