新研究指出人工智能的弱点

ChatGPT和其他基于机器学习的解决方案正在蓬勃发展。但即使是最成功的算法也有局限性。哥本哈根大学的研究人员在世界上首次从数学上证明，除了简单的问题之外，不可能为人工智能创建永远稳定的算法。这项研究可能会为如何更好地测试算法提供指导方针，并提醒我们机器毕竟不具备人类智能。

机器比医生更准确地解释医学扫描图像，它们翻译外语，并且可能很快就能比人类更安全地驾驶汽车。然而，即使是最好的算法也有弱点。哥本哈根大学计算机科学系的一个研究小组试图揭示它们。

以阅读路标的自动车辆为例。如果有人在标志上贴了贴纸，这不会分散人类驾驶员的注意力。但是一台机器可能很容易被推迟，因为现在的标志与它被训练时的标志不同。

“我们希望算法在某种意义上是稳定的，即如果输入稍有变化，输出将几乎保持不变。该小组组长阿米尔·耶胡达约夫教授说:“现实生活中有各种人类习惯忽略的噪音，而机器可能会感到困惑。”

讨论弱点的语言

作为世界上第一个，该小组与其他国家的研究人员一起从数学上证明，除了简单的问题之外，不可能为机器学习创建永远稳定的算法。描述这一结果的科学文章被批准在理论计算机科学的主要国际会议之一《计算机科学基础》(FOCS)上发表。

“我想指出的是，我们没有直接在自动汽车应用程序方面开展工作。不过，对于算法来说，这似乎是一个太复杂的问题，无法始终保持稳定，”阿米尔·耶胡德约夫说，并补充说，这并不一定意味着与自动汽车开发有关的重大后果:

“如果算法只在极少数情况下出错，这可能是可以接受的。但如果它在大量情况下这样做，那就不是好消息了。”

工业界不能用这篇科学文章来识别其算法中的缺陷。教授解释说，这不是我们的初衷:

“我们正在开发一种语言来讨论机器学习算法中的弱点。这可能会导致开发描述算法应该如何测试的指南。从长远来看，这可能会再次导致更好、更稳定的算法的开发。”

从直觉到数学

一个可能的应用是测试保护数字隐私的算法。

“一些公司可能声称已经开发出绝对安全隐私保护解决方案。首先，我们的方法可能有助于确定解决方案不可能绝对安全。其次，它将能够找出弱点，”阿米尔·耶胡达约夫说。

然而，首先也是最重要的是，科学文章有助于理论。他补充道，尤其是数学内容具有开创性:

“我们凭直觉理解，当暴露于少量输入噪声时，稳定的算法应该几乎像以前一样工作。就像上面贴着贴纸的路标一样。但是作为理论计算机科学家，我们需要一个明确的定义。我们必须能够用数学语言描述这个问题。如果我们接受算法是稳定的，那么算法必须能够承受多大的噪声，以及输出应该与原始输出有多接近?这就是我们建议的答案。”

牢记局限性很重要

这篇科学文章引起了理论计算机科学界同事的极大兴趣，但没有引起科技行业的兴趣。至少现在还没有。

阿米尔·耶胡达约夫笑着补充道:“在新的理论发展和应用人员的兴趣之间，你应该总是会有一些延迟。”

“一些理论上的发展将永远不会被人注意到。“

然而，他没有看到这种情况发生:

“机器学习继续快速发展，重要的是要记住，即使在现实世界中非常成功的解决方案也有局限性。机器有时似乎能够思考，但毕竟它们不具备人类的智力。记住这一点很重要。”

来源: Materials provided by University of Copenhagen - Faculty of Science.
注明: Content may be edited for style and length. Journal Reference: Zachary Chase, Shay Moran, Amir Yehudayoff. Replicability and Stability in Learning. submitted to arXiv, 2024 [abstract]