慕尼黑工业大学研究人员开发出自动驾驶软件 可以公平分配风险

盖世汽车讯 据外媒报道，慕尼黑工业大学（TUM）的研究人员开发出自动驾驶软件，可以公平地分配街道上的风险。该软件中所用算法被认为是第一个纳入欧盟委员会（EU Commission）专家组20条伦理建议（he 20 ethics recommendations）的算法，因此可以做出比以往算法明显更具差异化的决策。

图片来源：期刊《Nature Machine Intelligence》

通过对行人和驾车者做出不同程度的风险评估，可以大大提高自动驾驶汽车的运行安全性。该代码作为开源（Open Source）软件向公众开放。

在允许自动驾驶车辆大规模上路之前，技术实现并不是唯一需要克服的障碍。道德问题在相应算法的开发中起着重要作用：软件必须能够处理不可预见的情况，并在即将发生事故时做出必要的决定。

TUM的研究人员现已开发出首个道德算法来公平分配风险水平，而不是按照非此即彼的原则运作。目前已测试了约2000个涉及危急情况的场景，遍及欧洲、美国和中国等不同类型的街道和地区。相关论文已发表于期刊《Nature Machine Intelligence》。

TUM汽车技术主席的科学家Maximilian Geisslinger解释道：“直到现在，自动驾驶汽车在遇到道德决策时总是面临非此即彼的选择。但街道交通不一定被分为清晰的黑或白情境；更重要的是，还必须考虑介于两者之间的无数灰色阴影。我们的算法会权衡各种风险，并从数千种可能的行为中做出合乎道德的选择，且只需花费不到一秒的时间（远低于一秒）。”

危急情况下的更多选择

2020年，代表欧盟委员会的专家小组将软件风险评估所依据的基本伦理参数定义为书面建议。该建议包括众多基本原则，例如最贫困者的优先权和在所有道路使用者之间公平分配风险。为了将这些规则转化为数学计算，根据车辆和行人对他人造成的风险以及各自承担风险的意愿，研究小组对在街道交通中行驶的车辆和行人进行了分类。

例如，一辆卡车可能会对其他交通参与者造成严重损害，而在许多情况下，卡车本身只会受到轻微损坏。自行车的情况正好相反。在下一步中，算法被告知不要超过各种街道情况下的最大可接受风险。此外，研究团队在计算中增加了变量以说明交通参与者的责任，例如遵守交通规则的责任。

以前的方法仅通过少量可能的操作来处理街道上的危急情况；在状况不清楚的情况下，车辆只会停下来。现在，该风险评估已集成到研究人员的代码中，从而在降低所有人风险的同时提高了自由度。例如，一辆自动驾驶汽车想要超车，而一辆卡车正迎面而来。所有关于周围环境和个人参与者的现有数据都会得到充分利用。

不在迎面驶来的车道上行驶，同时与自行车保持安全距离，是否可以超车？对每辆车构成的风险是什么，这些车辆对自动驾驶汽车本身构成什么风险？在不清楚的情况下，装有新软件的自动驾驶汽车总是会等到所有风险都达到可接受的程度，不仅可避免激进的操作，同时自动驾驶汽车不会简单地冻结并突然踩刹车。是或否无关紧要，取而代之的是包含大量选项的评估。

只考虑传统伦理理论会进入死胡同

TUM商业伦理主席科学家Franziska Poszler表示：“直到现在，自动驾驶车辆在生成道德可行的决定时，通常考虑的是传统伦理理论，但这最终会进入死胡同。因为在许多交通情况下，除了违反伦理原则外别无选择。相比之下，我们的框架将风险伦理置于中心位置。因此我们能够考虑概率，从而做出更加差异化的评估。”

研究人员强调，即使是基于风险伦理的算法（尽管它们可以在每一种可能的交通情况下根据潜在的伦理原则做出决定），它们仍然不能保证街道交通无事故。未来还有必要考虑进一步的差异，例如道德决策中的文化差异。

截至目前，TUM开发的算法已经在仿真中得到验证。将来，该软件将使用研究车辆EDGAR在街上进行测试。包含研究活动结果的代码可作为开源软件使用。 因此，TUM将继续为开发可行且安全的自动驾驶汽车做出贡献。