人工智能如何影响安全关键型汽车软件的认证

随着汽车行业不断向软件定义汽车迈进，开发团队必须了解人工智能（AI）和机器学习（ML）如何影响汽车。

自动软件验证、源代码分析和测试工具供应LDRA技术专家Mark Pitchford表示，无论是在制造车间还是车载，汽车软件中越来越多地使用人工智能和机器学习技术，这需要重新考虑功能安全流程和认证的方法

制造商和供应商们已经开始了这项工作，功能安全标准也紧随其后。目前AI/ML已被应用于汽车行业，并且正在采取措施维护行业内的安全关键软件实践。

图片来源：LDRA

即使梅赛德斯-奔驰等制造商正在使用这项技术，生成式人工智能也引发了围绕AI/ML的许多混乱和不确定性。采用更广泛的这些技术有助于涵盖安全关键汽车软件的所有潜在可能性。

一般来说，人工智能可以分为两类：

• 狭义（或弱）人工智能适合其所接受训练的特定任务，但缺乏一般的人类智能。

• 通用（或强）人工智能可执行多种功能，并能自学如何以模仿人类智能的方式解决新问题。

汽车软件团队几十年来一直在使用狭义人工智能。以安全气囊ECU或数字仪表盘为例，它们都是为执行特定任务而构建的，通常属于传统的危害分析和风险评估流程。最近，自动驾驶系统采用AI/ML来获取传感器数据并适应其环境以控制转向和制动等功能。

AI/ML应用程序还扩展到软件开发环境中。自动单元测试向量生成是一种狭义AI，因为它通过从现有代码中派生测试存根和控制来模拟智能行为。图1显示了一组通过软件自动创建的测试向量示例，无需人工花时间创建。

奥迪与英特尔和Nebbiolo合作开发基于AI的概念验证（POC），以改进其车辆焊接的质量控制流程。该POC在奥迪位于德国内卡苏尔姆的工厂进行，该工厂的生产线上有2,500台自动机器人。每个机器人都使用从胶枪到螺丝刀等工具来执行特定的车辆组装任务。奥迪每天组装多达1,000辆汽车，每辆汽车焊接5,000次，因此力求提高质量控制规模和效率。

在POC之前，奥迪使用行业标准的手动采样方法，每天从生产线上拉出一辆汽车来测试焊点并记录其质量。POC的目标是检查每辆汽车的所有5,000个焊点，并在几微秒内推断出每个焊点的结果。

图片来源：LDRA

为此，开发人员创建并训练了一种ML算法，通过将其预测与实际检查数据进行比较来提高准确性。该软件使用了焊接操作过程中的电压和电流曲线、焊点配置、金属类型和电极健康状况的数据。模型部署在装配线和单元级别，创建可以在焊接前预测不良焊接的系统，如下图2所示。

该控制系统的ML元素不太可能是根据传统的功能安全标准开发的，例如与IEC 61508相关的V模型：“电气/电子/可编程电子安全相关系统的功能安全”。由于存在已知参数（健康电极、金属类型等的规格），并且专业技术人员能够很好地减轻对错误焊接的任何错误检测，因此错误输出的风险可能很小。

汽车行业将AI/ML纳入标准的方法是定义AI/ML应用的最佳实践，使开发人员能够实现ISO 26262等长期存在的更高级别标准的目标。如图3所示，两项即将出台的标准说明了这种方法：

ISO/CD PAS 8800，道路车辆 - 安全和人工智能：本文件将定义与安全相关的属性和影响人工智能性能不足和故障行为的风险因素。它包括推导安全要求、考虑数据质量和完整性以及控制和缓解故障的架构措施。

ISO/CD TS 5083，道路车辆 - 自动驾驶系统安全 - 设计、验证和确认：本文件将概述和指导配备安全自动驾驶系统的自动驾驶汽车的开发和验证步骤。它根据ISO/SAE PAS 22736考虑了设计安全性、网络安全以及针对SAE 3级和4级车辆的自动驾驶验证和确认方法。

图片来源：LDRA

减轻安全关键应用中的AI/ML风险

完全基于AI/ML的安全关键系统很少（如果有的话）。更常见的是将基于AI/ML的元素集成到传统设计的系统中，其中可以应用域分离和“不受干扰”的概念。

ISO 26262将“不受干扰”定义为“两个或多个元素之间不存在可能导致违反安全要求的连锁故障”。“元素”是“系统或系统的一部分，包括组件、硬件、软件、硬件部件和软件单元”。“连锁故障”是指“某项元素的故障导致同一项中的另一个元素或多个元素发生故障”。将AI/ML算法限制在其自己的元素上，可使其他元素接收AI/ML生成的数据并进行适当的处理，以减轻与所述数据相关的任何风险。

如下图所示，传统的污点分析工具可以测试和验证来自AI/ML元素的数据流。开发人员可以根据数据范围和控制流检查传入和传出的数据，以确定连接元素之间的潜在安全风险。他们还可以将这些测试纳入更大的策略中，以展示系统内不受干扰的自由度。

图片来源：LDRA

从优化制造流程到控制驾驶功能，基于AI/ML的系统是汽车制造商的最新方向。尽管AI/ML与人类智能协同作用前景广阔，但汽车软件团队仍必须应用功能安全流程和工具来最大限度地降低风险。

在可预见的未来，AI/ML组件将在传统开发的软件中运行，并依赖于人类参与。新的安全标准正在制定中，以指导团队了解这些技术的未来，开发人员必须知道如何将它们与传统验证技术相结合，以实现最终目标。