科学家警告称，人工智能和神经技术的飞速发展正超越我们对意识的理解，从而引发严重的伦理风险。新研究指出，开发用于检测意识的科学测试有望变革医学、动物福利、法律及人工智能的发展。然而，在机器、脑类器官或患者中识别意识，也可能迫使社会重新思考责任、权利和道德边界。关于拥有意识意味着什么的问题，从未像现在这般紧迫——或令人不安。
在发表于《科学前沿》的一篇新综述中，研究人员警告称，人工智能和神经技术的进步速度超过了对意识的科学理解。他们认为，如果不解决这一差距，可能会导致严重的伦理问题。
作者表示，解释意识如何产生已成为一项紧迫的科学和道德要务。更清晰的理解最终可能使开发检测意识的科学方法成为可能。这一突破将对人工智能发展、产前政策、动物福利、医学、心理健康护理、法律以及脑机接口等新兴技术产生深远影响。
“意识科学不再纯粹是哲学追求。它对社会的方方面面——以及对理解何为人类——都有着切实的影响，”布鲁塞尔自由大学的主要作者Axel Cleeremans教授说道。“理解意识是21世纪科学最重大的挑战之一——由于人工智能和其他技术的进步，这一挑战现在变得尤为紧迫。
“如果我们能够创造意识——哪怕是意外创造——这将引发巨大的伦理挑战，甚至带来生存风险，”欧洲研究委员会（ERC）资助获得者Cleeremans补充道。
定义感知能力的挑战
意识通常被描述为对周围世界和自身的感知，它仍然是科学界最棘手的难题之一。尽管经过数十年的研究，科学家们对于主观体验如何从生物过程中产生仍未达成共识。
研究人员已经确定了与意识体验相关的大脑区域和神经活动，但重大分歧依然存在。科学家们仍在争论哪些大脑系统对意识真正必不可少，以及它们如何相互作用产生感知。一些研究人员甚至质疑这种方法是否正确地捕捉到了问题所在。
这篇新综述审视了意识科学的现状、该领域的未来方向，以及人类若能完全解释甚至创造意识可能产生的后果。这包括意识在机器或实验室培养的被称为“脑类器官”的类脑系统中出现的可能性。
意识测试
作者认为，开发基于证据的意识测试可能会改变在多种情境下识别感知的方式。此类工具有助于检测脑损伤或痴呆患者的意识，并确定感知何时在胎儿、动物、脑类器官甚至人工智能系统中产生。
虽然这将代表一项重大的科学进步，但研究人员警告称，这也会引发棘手的伦理和法律问题。确定一个系统具有意识，将迫使社会重新考虑应如何对待该系统。
“意识科学的进步将重塑我们看待自己以及我们与人工智能和自然界关系的方式，”萨塞克斯大学联合作者Anil Seth教授及ERC资助获得者说道。“意识问题由来已久——但从未像现在这样紧迫。”
医学、伦理和法律影响
对意识更深入的理解可能会对全社会产生广泛影响。
在医学领域，这可以改善对无反应且被认为无意识的患者的护理。受整合信息理论和全局工作空间理论[1]启发的测量方法，已经在一些被诊断为无反应觉醒综合征的患者身上检测到了意识的迹象。进一步的进展可以完善这些工具，以更好地评估昏迷、晚期痴呆和麻醉状态下的意识，并影响治疗决策和临终关怀。
心理健康治疗也可能从中受益。理解主观体验的生物学基础可能有助于研究人员为抑郁症、焦虑症和精神分裂症等疾病开发更好的疗法，通过缩小动物研究与人类情感体验之间的差距来实现。
对意识的更深入洞察可能会重塑人类对动物道德责任的看法。确定哪些动物和系统具有感知能力，可能会影响动物研究实践、农业、食品消费和保护策略。“了解特定动物意识的本质，将改变我们对待它们以及科学家正在合成生成的各种新兴生物系统的方式，”特拉维夫大学联合作者Liad Mudrik教授及ERC资助获得者说道。
重新思考责任与技术
意识研究还可能影响法律体系对责任的理解。新发现可能会挑战传统的法律概念，例如确立意图所需的“犯罪意图”。随着神经科学揭示出多少行为源于无意识过程，法院可能需要重新考虑责任的起点和终点。
与此同时，人工智能、脑类器官和脑机接口的进步提高了在自然生物极限之外创造或改变感知的可能性。虽然一些研究人员认为意识可能仅通过计算产生，但另一些人则认为生物因素起着至关重要的作用。“即使利用标准数字计算机无法实现‘有意识的人工智能’，但那些给人以有意识印象的人工智能也会引发许多社会和伦理挑战，”Seth说道。
呼吁协调研究
作者强调需要采取协调一致、基于证据的方法来研究意识。提出的一项策略涉及对抗性合作，即通过支持者共同设计的实验，让相互竞争的理论相互验证。“我们需要更多的团队科学来打破理论壁垒，克服现有的偏见和假设，”Mudrik说。“这一步有潜力推动该领域向前发展。”
研究人员还主张，科学工作应在功能研究（意识的作用）之外，更加重视现象学（意识的感觉）。
“合作努力对于取得进展至关重要——也能确保社会为理解甚至可能创造意识所带来的伦理、医学和技术后果做好准备，”Cleeremans说。
注释
- 全局工作空间理论认为，当信息通过专门的全局工作空间在大脑中变得可用并共享，供行动和记忆等不同功能使用时，意识就会产生。
高阶理论认为，某些大脑状态中表征的思想或感觉，只有当存在另一个大脑状态“指向它”并发出“这就是我现在意识到的内容”的信号时，才会成为意识。这与一种直觉相符，即意识到某事意味着觉察到自己的心理状态。
整合信息理论认为，如果一个系统的各部分以该理论定义的非常特定的方式高度连接和整合，那么该系统就是有意识的，这与每一次意识体验既是统一的又是高度信息丰富的观点一致。
预测处理理论认为，我们所体验的是大脑对世界的最佳猜测，基于对某物外观或感觉的预测，并与感官信号进行核对。