盖世汽车讯 自动驾驶汽车通常由深度学习模型控制，但这些模型有时会在意外情况下出现故障。例如，汽车可能会莫名其妙地刹车，阻挡迎面驶来的紧急车辆。此时，驾驶员或乘客可能需要迅速做出反应以避免碰撞。
据外媒报道，为了帮助人们更好地预测车辆的失误，麻省理工学院（MIT）和自动驾驶技术公司Motional的研究人员开发了一种新方法，可以清晰地解释底层模型的决策过程。
图片来源：MIT
通常，深度学习模型的内部推理过程晦涩难懂。但这种名为概念包装网络（CW-Net）的新方法，可以将推理过程转化为概念，这些概念能够忠实地描述自动驾驶汽车的决策，而不会影响其驾驶性能。
CW-Net使用易于理解的概念（例如“接近静止车辆”或“靠近骑行者”）来解释基于机器学习的规划器的决策。这些解释可以纠正驾驶员和乘客对车辆行为的误解，并提高他们的情境感知能力。
在私人赛道上进行的道路测试中，CW-Net的解释帮助安全驾驶员更准确地预测车辆行为；一项针对非专业用户的大型模拟研究也得到了类似的结果。这些实验表明，CW-Net可以为工程师在排查车载人工智能系统故障时提供重要的反馈。从长远来看，这项技术可以提高自动驾驶车辆的安全性和透明度，同时建立驾驶员和乘客对车辆的信任。
“这项研究表明，解释如何有助于人类构建心智模型并理解系统的行为，以及如何将其应用于工程和开发中以改进技术，”麻省理工学院航空航天学教授、计算机科学与人工智能实验室（CSAIL）交互式机器人小组主任、CW-Net论文的共同资深作者Julie Shah表示。“除非我们构建这些技术的方式能够让我们信赖并预测其行为，否则它们的使用基础将是不稳固且不安全的。”
该论文的另一位共同作者是第一作者Eoin Kenny，他曾是麻省理工学院的博士后，现在是摩根大通的高级人工智能研究员；共同资深作者是Momchil Tomov，他是Motional公司的一名研究科学家。以及Motional团队成员Akshay Dharmavaram、Sang Uk Lee、Tung Phan-Minh、Shreyas Rajesh、Yunqing Hu和Motional总裁兼首席执行官Laura Major。该研究成果今日发表于期刊《Nature》。
忠实的解释
*特别声明：本文为技术类文章，禁止转载或大篇幅摘录！违规转载，法律必究。
本文地址：https://auto.gasgoo.com/news/202609/4I70471195C409.shtml
联系邮箱：info@gasgoo.com
求职应聘：021-39197800-8035
简历投递：zhaopin@gasgoo.com
客服微信：gasgoo12 (豆豆)
新闻热线：021-39586122
商务合作：021-39586681
市场合作：021-39197800-8032
研究院项目咨询：021-39197921
—— 全球视野·中国声音 ——
