From vehicle collision avoidance to airline scheduling systems to power supply grids, many of the services we rely on are managed by computers. As these autonomous systems grow in complexity and ubiquity, so too could the ways in which they fail.
从避免车辆碰撞到空气线路调度系统再到电网，许多服务都由计算机管理当这些自治系统变得越来越不灵活和普遍时，它们就会失败
现在，麻省理工学院开发了一种可以与任何自主系统相结合的方法，在部署到世界各地之前，快速识别系统中潜在故障的范围更重要的是，该方法可以找到修复故障的方法，并建议首先避免系统故障
团队已经展示了这种方法可以在各种模拟的无人驾驶系统中根除故障，包括陆地目标电网网络、环形碰撞避免系统、无人机和机器人在系统中，这种新方法在自动采样算法之前，可以快速识别地质故障，并进行修复以避免这些故障
新算法采用了与其他自动搜索不同的方法，这些方法旨在发现系统中最严重的故障该报告称，这些方法可能会忽略其他算法无法匹配的重大漏洞
“事实上，对于更复杂的系统，可能会发生各种各样的事故，”麻省理工学院航空航天系副教授CharlesDawson说“我们希望能够信任这些系统来驱动我们、飞行飞机或管理电网。了解它们的极限以及在什么情况下它们可能会失败，这一点非常重要。”
道森和ChuchuFan，麻省理工学院助理教授，将在本周的机器人学习会议上展示他们的工作
对广告的敏感性
2021年，德克萨斯州的一个主要系统崩溃了同年2月，冬季风暴席卷全州，带来了出乎意料的低温，引发了整个电网的故障这场危机已经过去了500万户家庭和企业在没有电力的情况下成倍增长该系统全面崩溃导致了德克萨斯州历史上的能源危机
道森说：“这是一个重要的或失败的决定，我们可以提前预测。”“我们能否了解电网的物理特性及其弱点在哪里，并在发生灾难之前进行目标升级和软件升级，以加强这些漏洞？”
Dawson和Fan的工作重点放在机器人系统上，并找到让他们在环境中更有弹性的方法在测试电力危机的部分推动下，他们开始扩大其范围，在热重组、大规模自动化系统中处理和修复故障到目前为止，他们意识到他们必须改变传统的方法来发现问题
设计人员经常通过识别最有可能、最严重的故障来测试自主系统的安全性他们开始用计算机模拟系统，代表其基础物理和可能影响系统行为的变量这是一种具有“对抗性变量定时”算法类型的非仿真，这种方法通过对系统进行多次小的更改来自动优化最坏的情况，直到它无法检测到与最严重故障相关的更改
Dawson指出：“通过将所有这些变化浓缩为最严重或最可能的故障，你就失去了你所能看到的行为的完整性。”“相反，我们希望优先识别故障的多样性。”Todoso，这是一种更“敏感”的方法他们开发了一种算法，可以自动在系统中生成随机变化，并评估系统对这些变化的敏感性或潜在故障最敏感的系统是温度变化，温度变化的可能性与可能的故障有关
该方法可将梁排除在可能的故障范围之外通过这种方法，算法还允许搜索者通过追踪导致特定表面缺陷的变化链来识别修复
范说：“我们认识到这个问题的真正双重性。”“还有两个问题。如果你能预测失败，你就应该能够预测避免失败的方法。我们的方法不是关闭那个循环。”Hiddenfailures
该团队测试了一种新的方法来处理各种模拟的系统，包括陆地目标电网在这些情况下，研究人员将该算法与通用、区域规模的电网模拟相结合研究表明，虽然传统的方法是在最容易失败的单一电力线上进行的，但该公司的算法发现，如果与第二条线路的故障相结合，则会完全停电
“我们的方法可以发现系统中隐藏的相关性，”Dawson说“因为我们做得更好，我们可以找到所有类型的故障，有时包括比现有方法更常见的故障。”在自动化系统中，研究人员得到了类似的不同结果，包括避免环形碰撞的模拟和协调的规则体为了确定模拟中的故障预测是否能在现实中发挥作用，他们还演示了机器人操纵器的方法——一种设计用于推动和拾取对象的机器人
团队首先提出了一种模拟机器人的算法，该算法直接用于在没有击倒对手的情况下将其推出赛道当同样的场景出现在实际的机器人身上时，他们发现它以算法预测的方式失败了——例如，击倒对手或不退出机器当他们应用了他们建议的算法时，他们会成功地推掉它
Dawson说：“这表明，实际上，当我们预测到这个系统会失败时，它会失败，当我们成功时。”原则上，AM的方法可以在一个自动系统中发现并修复故障，同时对其行为进行精确模拟道森设想，有一天，这种方法可以被应用到一个应用程序中，设计人员和工程师可以下载并应用于调整和调试他们自己的系统，以便在世界上进行测试
Dawson说：“随着自动化决策系统的工作量增加，我认为lavorofailresis正在发生变化。”“除了系统中的机械故障，我们还会看到更多的故障是由自动化决策的相互作用驱动的