MIT研究人员开发出验证机器人安全性和稳定性的新算法 有助于更安全地部署机器人和自动驾驶汽车

盖世汽车讯 神经网络对工程师如何设计机器人控制器产生了巨大影响，催生了自适应能力更强、效率更高的机器。不过，这些类似大脑的机器学习系统也是一把双刃剑：其复杂性使其功能强大，但也难以保证由神经网络驱动的机器人能够安全地完成任务。

图片来源：MIT CSAIL

验证机器人安全性和稳定性的传统方法是通过称为李雅普诺夫函数（Lyapunov functions）的技术。如果能找到一个李雅普诺夫函数的值持续下降，那么与更高值相关的不安全或不稳定情况永远不会发生。然而，对于由神经网络控制的机器人，此前用于验证李雅普诺夫条件的方法并不能很好地扩展到复杂的机器。

据外媒报道，麻省理工学院（MIT）计算机科学与人工智能实验室（CSAIL）及其它机构的研究人员现在开发出新技术，可以在更复杂的系统中严格验证李雅普诺夫计算。该算法可以高效地搜索和验证李雅普诺夫函数，为系统的稳定性提供保证。这种方法可能有助于更安全地部署机器人和自动驾驶汽车，包括飞机和航天器。

为了超越之前的算法，研究人员找到了训练和验证过程的捷径。他们生成了成本更低的反例——例如，来自传感器的对抗性数据可能会使控制器失灵——然后优化机器人系统来解决这些问题。了解这些边缘情况有助于机器学习如何应对具有挑战性的环境，从而使它们能够在比以前更广泛的条件下安全运行。然后，研究人员开发出新的验证公式，能够使用可扩展的神经网络验证器α,β-CROWN，在反例之外提供严格的最坏情况保证。

麻省理工学院电气工程与计算机科学（EECS）博士生、CSAIL附属研究员Lujie Yang表示：“我们在人形机器人和机器狗等人工智能控制的机器上看到了一些令人印象深刻的经验表现，但这些人工智能控制器缺乏对安全关键系统至关重要的形式保证。”

Yang指出：“我们的研究弥合了神经网络控制器的性能水平与在现实世界中部署更复杂的神经网络控制器所需的安全保证之间的差距。”

在数字演示中，该研究团队模拟了带有激光雷达传感器的四旋翼无人机如何在二维环境中稳定飞行。他们的算法仅使用激光雷达传感器提供的有限环境信息，就成功地引导无人机悬停在一个稳定的位置。

在另外两个实验中，他们的方法使两个模拟机器人系统在更广泛的条件下稳定运行：一个倒立摆和一个路径跟踪车辆。这些实验虽然规模不大，但相对而言比神经网络验证界以前所能做的要复杂得多，特别是因为它们包含了传感器模型。

加州大学圣地亚哥分校（University of California at San Diego）计算机科学与工程副教授Sicun Gao表示：“与常见的机器学习问题不同，严格使用神经网络作为李雅普诺夫函数需要解决困难的全局优化问题，因此可扩展性是关键瓶颈。目前的工作通过开发算法方法做出了重要贡献，这些算法方法可以更好地针对神经网络作为控制问题中的李雅普诺夫函数的特殊使用进行定制。与现有方法相比，它在可扩展性和解决方案质量方面取得了令人印象深刻的进步。这项工作为进一步开发神经李雅普诺夫方法的优化算法以及在控制和机器人技术中严格使用深度学习开辟了新的方向。”

Yang及其同事的稳定性方法在安全至关重要的领域具有广泛的应用潜力。它可以帮助确保飞机和航天器等自动驾驶汽车的平稳行驶。同样，无人机运送物品或绘制不同地形图时也可以受益于这种安全保障。

新开发的技术非常通用，不仅限于机器人，同样的技术在未来还可能有助于生物医学和工业加工等其它应用。虽然该技术在可扩展性方面较之前有所提升，但研究人员正在探索如何在更高维度的系统中发挥更好的性能。他们还想解释激光雷达读数之外的数据，如图像和点云。

作为未来的研究方向，该研究团队希望为处于不确定环境和受干扰的系统提供同样的稳定性保证。例如，Yang及其同事希望确保无人机在面临强风时仍能稳定飞行并完成预期任务。

此外，研究人员还打算将他们的方法应用于优化问题，其目标是在保持稳定的同时，尽量减少机器人完成任务所需的时间和距离。研究人员计划将他们的技术扩展到人形机器人和其它现实世界的机器中。在这些应用中，机器人需要在与周围环境接触的同时保持稳定。