多年来,研究人员一直依赖人工神经网络(ANN)——为执行识别图像中物体等任务而设计的计算机系统——来研究视觉的工作原理。在过去十年中,这些模型已成为解释大脑视觉系统的主要工具之一。它们能够重现大脑活动模式,这使它们在神经科学中尤为有价值。
但新发现提出了一个重要问题:仅仅因为人工智能能够成功模仿大脑中的某些反应,就意味着它实际上以相同的方式处理视觉信息吗?
“人工智能系统常被描述为‘类脑’,因为它们能够预测大脑中帮助我们识别物体的部分的活动,”一项新研究的资深作者、约克大学助理教授Kohitij Kar说。“到目前为止,科学家大多只从一个方向检验这一点。他们问的是AI模型能否预测大脑活动。”
一项新测试揭示了类脑AI的一个隐藏问题
约克大学团队决定从相反的方向来探讨这个问题。他们没有简单地测量AI预测脑细胞活动的准确程度,而是研究记录到的大脑活动是否也能预测AI模型内部正在发生什么。
研究人员推断,如果这些系统真的像大脑一样运作,这种关系应该是双向的。为此,他们开发了一种称为反向可预测性测试的方法,使他们能够评估常规测试可能忽略的相似性。
“归根结底,我们需要计算模型来真正理解我们识别物体的潜在神经机制。我们是如何看到物体运动的?虽然这是我们每天都要做的非常简单的任务,但从计算角度来看,它却是一个极具挑战性的问题,”Kar说,他是加拿大视觉神经科学研究主席,也是约克大学视觉研究中心和整合与应用神经科学中心的成员。
研究团队(包括约克大学博士后研究员、该校Connected Minds项目的学员Sabine Muzellec)检验了对各种视觉图像的反应。
他们的测试包括1,320张自然照片和逼真的合成图像,展示了10个常见主题:熊、大象、人脸、苹果、汽车、狗、椅子、飞机、鸟和斑马。这些物体出现在各种自然场景以及室内或室外背景中。研究人员还引入了另外300张图像,展示相同主题的不同视觉风格,包括轮廓、素描、简化的表征以及艺术化诠释。
AI可以预测大脑活动,但反向测试却讲述了不同的故事
结果揭示了人工智能与生物视觉之间的显著脱节。
AI模型在预测记录到的神经元反应方面总体上是成功的,神经元是在整个大脑中传递信息的特化细胞。然而,当研究人员反转这一过程时,这些同样的神经元反应在预测模型的许多内部特征方面效果要差得多。
这一差异尤其具有启发性,因为研究人员在比较不同大脑之间的神经元活动时并未观察到同样的问题。
“结果令人震惊。虽然AI模型可以相当好地预测我们在大脑中记录到的神经元,但大脑却无法同样地预测模型的许多内部特征。有趣的是,当一个大脑的神经元与另一个大脑的神经元相比较时,情况并非如此,”Kar说。
这些发现表明,人工智能系统可以在依赖非常不同的内部机制的同时,产生与大脑极为相似的结果。换言之,与大脑的反应相匹配并不一定意味着潜在的运作过程是相同的。
Kar警告说,随着人工智能的进步,这种区别可能变得越来越重要。如果研究人员继续仅根据模型预测神经活动的准确程度来改进模型,那么这些模型与真实灵长类大脑之间的差异可能会随时间累积。
这将损害神经科学家使用这些系统的初衷之一:对大脑运作方式建立切合实际的解释。
“研究结果表明,当今的AI系统在解决视觉任务时部分采用了大脑可能不会使用的内部策略。重要的是,AI模型中与大脑对齐的部分也更能预测真实的人类行为,”Kar说。
为什么这一发现对神经科学和人类行为研究很重要
其影响远远超出了计算机视觉领域。人工智能正越来越多地被用于帮助研究人员设计实验、研究人类行为以及探究神经和心理疾病。其中许多应用都依赖于一个假设,即AI模型以类似于人脑的方式处理信息。
如果这一假设不正确,研究人员可能会从表面上看似准确但底层运作方式不同的模型中得出具有误导性的结论。
“我们的发现对当前AI系统与灵长类大脑究竟有多相似提出了质疑。我们表明,那些先前被认为是类脑的模型所依赖的内部组件,大脑似乎并不使用。我们为该领域提供了一个经过严格验证的诊断指标,”Muzellec说。
开发能够更忠实重现大脑功能的AI系统,最终可能会改善从创伤后应激障碍到自闭症等一系列疾病的研究。然而就目前而言,新发现的这些差异突显了在使用现有模型研究人类行为或指导临床研究时需要保持谨慎。
这种担忧也可能适用于神经科学的其他领域。类似的人工智能模型已被用于研究听觉、语言和运动。如果这些系统也依赖于与生物过程不同的内部机制,那么研究人员可能需要重新思考它们能揭示多少关于神经系统的信息。
构建更接近人脑的AI
这些发现并不是说应该抛弃人工神经网络,而是提供了一种使其更有用、在科学上更可靠的方法。
通过确定AI模型的哪些特征与真实的神经活动相对应,研究人员可以专注于开发更准确反映知觉背后生物机制的系统。
“我们的方法有助于识别人工神经网络中哪些部分真正与大脑活动相匹配,从而让我们能够构建更可靠的模型来理解人们如何看待和解读世界,”Kar说。“这对于我们的自闭症研究项目尤为重要,该项目以神经典型大脑的模型作为基线。”
神经典型大脑指的是神经发育和功能模式通常被认为处于典型范围的大脑。对这些模式建立准确的模型,对于研究自闭症等疾病中知觉和信息处理可能存在何种差异的研究人员来说十分重要。
为了帮助其他科学家将他们的发现付诸实践,团队已发布了一个公开可用的测试工具包,AI开发者可以用它来评估自己的模型并寻找改进的机会。
这项发表在《自然·机器智能》(Nature Machine Intelligence)上的研究引入了一种评估人工智能的新方法,超越了仅衡量系统执行任务的优劣。研究人员认为,理解AI是否通过真正类似于大脑的过程来获得其结果同样重要。
这一发现可能有助于指导新一代AI模型的开发,这些模型不仅能以令人惊叹的准确度识别世界,还能更真实地呈现人脑如何理解其所见之物。