科学家警告称，人工智能与神经技术的飞速发展已超越人类对意识认知的把握能力，由此带来了严重的伦理风险。最新研究指出，建立意识的科学测试体系或将推动医学、动物福利、法律及人工智能等领域的变革。但若识别出机器、脑类器官或病患具有意识，则可能迫使人类社会重新审视责任归属、权利界定与道德边界。探究意识的本质内涵从未像现在这样紧迫或更令人不安。
发表在《科学前沿》期刊上的一篇新评论文章中，研究人员警告说，人工智能和神经技术的进步速度，快于科学对意识的理解。他们认为，如果这种差距得不到解决，可能会导致严重的伦理问题。
作者们表示，解释意识如何产生现在已成为一项紧迫的科学和道德优先事项。更清晰的理解最终可能使开发检测意识的科学方法成为可能。这一突破将对人工智能发展、产前政策、动物福利、医学、心理健康护理、法律以及脑机接口等新兴技术产生深远影响。
"意识科学不再纯粹是哲学探索。它对社会各个方面——以及理解作为人类的意义——都具有实际影响，" 主要作者、来自布鲁塞尔自由大学的 Axel Cleeremans 教授说。"理解意识是21世纪科学最重大的挑战之一——而由于人工智能和其他技术的进步，现在这项工作变得紧迫。"
"如果我们能够创造意识——即使是偶然的——这将引发巨大的伦理挑战，甚至存在性风险，" 同时是欧洲研究委员会（ERC）受资助者的 Cleeremans 补充道。
定义感知力的挑战
意识，通常被描述为对周围世界和我们自身的觉察，仍然是科学界最困难的谜题之一。尽管经过数十年的研究，科学家们仍未就主观体验如何从生物过程中产生达成一致。
研究人员已经识别出与意识体验相关的大脑区域和神经活动，但重大分歧依然存在。科学家们继续争论哪些大脑系统对于意识是真正必需的，以及它们如何相互作用以产生觉察。一些研究人员甚至质疑这种方法是否正确地抓住了问题的本质。
这篇新的评论审视了意识科学的现状、该领域的未来方向，以及如果人类成功完全解释甚至创造意识可能带来的后果。这包括意识可能在机器中或在实验室培养的被称为"脑类器官"的类脑系统中出现的可能性。
测试意识
作者们认为，开发基于证据的意识测试方法可能会改变在许多背景下识别觉察的方式。此类工具可以帮助检测脑损伤或痴呆症患者的意识，并确定意识何时出现在胎儿、动物、脑类器官甚至人工智能系统中。
虽然这将代表一项重大的科学进步，但研究人员警告说，这也将产生棘手的伦理和法律问题。确定一个系统具有意识将迫使社会重新考虑应如何对待该系统。
"意识科学的进展将重塑我们看待自己的方式，以及我们与人工智能和自然世界的关系，" 合著者、来自苏塞克斯大学并同为 ERC 受资助者的 Anil Seth 教授说。"意识的问题古老而悠久——但从未像现在这样紧迫。"
医学、伦理和法律影响
对意识更深入的理解可能会对社会产生广泛影响。
在医学领域，它可以改善对无反应且被认为无意识的患者的护理。受整合信息理论和全局工作空间理论[1]启发的测量方法，已经检测到一些被诊断为无反应觉醒综合征患者的意识迹象。进一步的进展可以完善这些工具，以更好地评估昏迷、晚期痴呆和麻醉状态下的意识，并影响治疗决策和临终关怀。
心理健康治疗也可以受益。理解主观体验的生物学基础，可能通过缩小动物研究与人类情感体验之间的差距，帮助研究人员为抑郁症、焦虑症和精神分裂症等疾病开发更好的治疗方法。
对意识的更深刻洞察可能会重塑人类思考自己对动物道德责任的方式。识别哪些动物和系统具有感知力，可能会影响动物研究实践、农业、食品消费和保护策略。"理解特定动物中意识的性质，将改变我们对待它们以及科学家正在合成生成的新兴生物系统的方式，" 合著者、来自特拉维夫大学并同为 ERC 受资助者的 Liad Mudrik 教授说。
重新思考责任与技术
意识研究也可能影响法律系统理解责任的方式。新的发现可能会挑战传统的法律概念，如犯罪意图，即确立故意所必需的"犯罪心理"。随着神经科学揭示行为有多少源于无意识过程，法院可能需要重新考虑责任的起点和终点。
与此同时，人工智能、脑类器官和脑机接口的进步提出了在自然生物限制之外创造或改变意识的可能性。虽然一些研究人员认为意识可能仅通过计算产生，但其他人则认为生物因素起着至关重要的作用。"即使使用标准数字计算机不可能实现'有意识的人工智能'，但那些给人有意识印象的人工智能也会引发许多社会和伦理挑战，" Seth 说。
呼吁协调研究
作者们强调需要采取一种协调一致的、基于证据的方法来研究意识。一种提议的策略涉及对抗性合作，即通过支持者共同设计的实验来测试相互竞争的理论。"我们需要更多的团队科学来打破理论隔阂，克服现有的偏见和假设，" Mudrik 说。"这一步有可能推动该领域向前发展。"
研究人员还认为，科学工作应在研究功能（意识做什么）的同时，更加重视现象学（意识的感觉是什么）。
"合作努力对于取得进展至关重要——也是为了确保社会为理解、乃至创造意识所带来的伦理、医学和技术后果做好准备，" Cleeremans 说。
注释
- 全局工作空间理论认为，当信息通过专门的全局工作空间在大脑中被获取和共享，以供不同功能（如行动和记忆）使用时，意识便产生了。
高阶理论认为，某些大脑状态中表征的思想或感觉，只有当存在另一个"指向它"的大脑状态，发出'这就是我现在意识到的'信号时，才会成为有意识的。这与我们对某事有意识意味着意识到自己的心理状态这一直觉相符。
整合信息理论认为，如果一个系统的各部分以该理论定义的特定方式高度连接和整合，那么这个系统就是有意识的，这与每个意识体验既是统一的又包含高度信息的观点一致。
预测加工理论认为，我们所体验到的，是大脑基于对某物外观或感觉的预测，并与感觉信号进行核对后，对世界做出的最佳猜测。