神经网络系统的眼睛

在图像识别软件的背景下，这些软件可以识别我们的朋友、社交媒体和网络中的野花，通过我们的大脑处理数据，可以获得一种类型的人工智能当神经网络打印数据时，它们的架构使人们很难追踪人类可见的错误的起源——比如将Converse high top与Nankleboot混淆——限制了它们在医疗图像分析或搜索等重要工作中的使用普渡大学开发的一个工具可以将这些问题简单地归结为一架罗马飞机的山顶

“从某种意义上说，如果神经网络能够达到峰值，我们会向你展示它将要发生的事情，”科学学院计算机科学的Purdue教授DavidGleich说，他开发了该工具，这是发表在NatureMachineIntelligence上的论文的特点“我们开发的工具有助于你在网络构建过程中找到位置，比如说，‘嘿，我需要更多的信息来了解你所询问的内容。’我们建议你在一个高度成熟的网络决策场景或图像预测任务中使用该工具。”

GitHub上提供的工具代码，以及重复的演示Gleich与TamalK合作进行了这项研究Dey，也是一位计算机科学的博士教授，和MengLiu，是一位在计算机科学领域获得博士学位的大学毕业生

通过整合他们的方法，Gleich的团队在网络中发现了从胸部X光和基因序列到服装的所有东西的数据库中的图像标识例如，非整条网络重复错误地标记了来自Imageneted数据库磁带播放器的汽车图像原因是什么？这些图片是从在线列表中绘制的，其中包括摄影师立体设备的标签

神经网络图像识别系统是一种重要的算法，它以模拟分析和识别神经元加权成像模式的方式处理数据系统通过图像的“训练集”管理数据，例如识别动物、动物或动物，该图像包括每个像素的数据、标记和其他信息，并且图像的实体被分类在一个特定类别中使用培训集，专家学习或“提取”所需的信息，以便将输入值与类别相匹配这些信息跨越了一个数字范围的嵌入式向量，用于计算图像在可能类别中的可能性一般来说，图像的正确性属于概率最高的类别

但这些建议和可能性与人类无法认知的决策过程无关输入100000个数字表示已知数据，然后网络生成128个数字的嵌入矢量，这些数字与物理特征不对应，尽管它们使网络工作能够对图像进行分类换言之，你不能打开一个在线系统的所有算法并继续执行在图像的输入值和预测标识之间，是众所周知的不可识别数字的“黑盒”

Gleich说：“神经网络的问题是，我们看不到机器内部，无法理解它是如何做出决定的，那么我们如何知道神经网络是否是一个典型的错误呢？”

在试图通过网络跟踪在图像中制作病理风扇的决定时，Gleich的方法使计算机可以可视化关系，即计算机可以在整个数据库中看到所有图像考虑到所有这些都是由网络组织起来的

这些图像之间的关系（类似于网络对数据库中图像的实体分类的预测）是基于嵌入的数据和网络生成的可能性为了找到网络无法区分两种不同分类的查看和查找位置的解决方案，Gleich团队首先开发了一种筛选和重叠分类的方法，以确定图像在再次分类时具有更高的扩展可能性

然后，团队将关系映射到Reebgraph，或者从拓扑数据分析领域获取在图中，网络思维的每一组图像后来都由一个点表示点被循环分类距离越近，就越有可能考虑到这一点，而图中的大部分区域都显示出单色点的聚类但是，一组具有更高扩展或再次声明可能性的图像将由两个不同颜色的涂鸦点呈现有了护腿，两种分类中两种标记无法区分的区域就会出现一组第一种颜色的圆点，同时出现一组第二种颜色的重叠圆点放大重叠点会显示一个融合的区域，就像猫的照片在卡拉和卡带播放器上都被标记了一样

Gleich说：“我们正在做的是，将这些复杂的金融信息保存到网络中，并让人们‘看’到网络，这是宏观层面的数据。”“Reebm代表了重要的东西，代表了大群体，以及它们之间的关系，这使得错误成为可能。”

《复杂预测的拓扑结构》是在国家科学基金会和美国的支持下产生的S能源部

来源:

Materials provided by
Purdue University. Original written by Mary Martialay.
注明: Content may be edited for style and length.

参考:

1. Meng Liu, Tamal K. Dey, David F. Gleich.
   Topological structure of complex predictions. Nature Machine Intelligence (in press), 2023 DOI: 10.1038/s42256-023-00749-8

---