“鸟鸣的ChatGPT”可能揭示语言在人脑中的连接方式

就像ChatGPT和其他生成语言模型在人类文本上训练以创建语法正确的句子一样，宾夕法尼亚州立大学的研究人员提出了一种新的建模方法，通过训练鸟类的录音来创建准确的鸟鸣。该团队表示，这些结果可以提高对鸟鸣结构及其潜在神经生物学的理解，从而深入了解人类语言的神经机制。一篇描述这项研究的论文最近发表在《神经科学杂志》上

就像人类如何以特定的顺序排列单词以形成语法正确的句子一样，鸟类倾向于在有限的组合中唱一组称为音节的音符

Eberly科学院物理学副教授、该论文的主要作者Dezhe Jin说：“虽然简单得多，但鸟类的歌声音节序列的组织方式与人类语言相似，因此鸟类为探索语言的神经生物学提供了一个很好的模型。”

对于人类和鸟类来说，完成一个句子或歌曲序列通常取决于已经说过的话。例如，短语“像苍蝇一样飞”可能是类比的一部分，如短语“时间像箭一样飞”或表示享受，如“像香蕉一样飞的果蝇”。然而，将“像苍蝇那样飞”之后的内容混合和匹配会导致“像香蕉那样飞的时间”或“像箭一样的果蝇”，这是没有意义的。在这个例子中，短语“像苍蝇一样”具有研究人员所说的上下文依赖性

金说：“我们从之前的工作中知道，孟加拉雀的歌声也有语境依赖性。”。“在这项研究中，我们开发了一种新的统计方法，可以更好地量化个体鸟类的上下文依赖性，并开始了解它在大脑中的连接方式。”研究人员分析了六只孟加拉雀科鸟类之前录制的歌曲，每只雀科鸟类在每个序列中唱大约7到15个音节。通过这种新方法，研究人员可以创建最简单的模型，准确反映单个鸟类实际唱歌的序列

这些模型与大型语言模型相似，因为它们根据之前分析的文本或歌曲序列，描述了哪些单词（或在这种情况下是音节）可能跟随特定单词/音节的概率。它们是一种马尔可夫模型，一种对事件链进行建模的方法。它们以一种流程图的形式呈现，从一个音节开始，指向随后可能出现的不同音节的选项。音节可能跟随的概率在它们之间的箭头中表示

金说：“基本的马尔可夫模型非常简单，但它们往往过于泛化，这意味着它们可能会产生实际上不存在的序列。”。“在这里，我们使用了一种称为部分可观测马尔可夫模型的特定类型的模型，该模型允许我们结合上下文依赖性，为音节通常在一起添加更多的连接。增加的复杂性允许更准确的模型。”

研究人员的新方法创建了一系列潜在的模型，可以根据记录的序列描述单个鸟类的歌声。他们从最简单的模型开始，使用统计测试来查看潜在模型是否准确，或者它是否过度泛化并产生实际上不存在的序列。他们通过越来越复杂的模型进行工作，直到他们确定出最简单的模型来准确捕捉鸟类的歌声。从这个最终模型中，研究人员可以看到哪些音节具有上下文依赖性

与超过100000名依赖Phys.org获取日常见解的订阅者一起探索科学、技术和太空的最新进展。注册我们的免费时事通讯，每天或每周获取重要突破、创新和研究的最新进展

金说：“我们研究的六只鸟都有依赖上下文的音节转换，这表明这是鸟鸣的一个重要方面。”。“然而，具有上下文依赖性的音节数量因个体出价而异。这可能是由于几个因素造成的，包括鸟类大脑的各个方面，或者，由于这些歌曲是学习的，这可能与导师歌曲中的上下文依赖程度有关。”

为了开始理解上下文依赖性音节转换背后的神经生物学，研究人员还分析了听不见的鸟类的歌曲

金说：“在这些鸟类中，我们看到上下文依赖性急剧下降，这表明听觉反馈在大脑中产生上下文依赖性方面起着重要作用。”。“鸟类正在听自己的声音，并根据听到的声音调整它们的歌声，大脑中的相关机制可能在情境依赖中发挥作用。未来，我们还想将神经元状态映射到特定的音节。我们的研究表明，即使一只鸟在唱同一个音节，不同的神经元组也可能处于活动状态。”研究人员表示，他们的新方法提供了一种更自动化、更稳健的方法，不仅可以分析鸟类的歌声，还可以分析其他动物的叫声，甚至行为序列

金说：“我们实际上在英语中使用了这种方法，并且能够生成大部分语法的文本。”。“当然，我们并没有试图创建一个新的生成语言模型，但有趣的是，同一种模型可以处理鸟鸣和人类语言。也许潜在的神经机制也很相似。”许多哲学家将人类语言，尤其是语法描述为例外，但如果这个模型可以创建类似语言的句子，如果鸟鸣和语言背后的神经机制确实相似，你不禁想知道我们的语言是否真的如此独特。p