• 采购项目
  • 配套企业库
  • 销量查询
  • 盖世汽车社区
  • 泰科电子白皮书【0925】
  • GORE【20190922】
  • 诺博【20190922】
  • 中国汽研-特斯拉
  • CTalk高端系列访谈

原创 RSS

当前位置:首页 > 智能网联 > 正文

借鉴接种疫苗原理 CSIRO研发新技术可让自动驾驶神经网络对黑客攻击免疫

盖世汽车 余秋云 2019-07-12 08:30:01
核心提示:现代社会中,机器学习系统(或称神经网络)正变得越来越流行,而且被广泛应用于交通管理、医疗诊断和农业等各个领域,此外,它们还是自动驾驶汽车的关键部件。

盖世汽车讯 据外媒报道,澳大利亚国家科学研究局(CSIRO)研发出一种编程技术,该技术的工作原理与疾病预防疫苗接种类似,能够保护机器学习系统免受恶意的网络攻击。

现代社会中,机器学习系统(或称神经网络)正变得越来越流行,而且被广泛应用于交通管理、医疗诊断和农业等各个领域,此外,它们还是自动驾驶汽车的关键部件。

从最初的训练阶段开始,机器学习系统会在给定的任务中重复运行成千上万次,然后,得出的算法才具备学习的能力,被添加至其计算机指令系统,并据此采取行动,无需进一步的人工操作。

尽管机器学习系统与其他由计算机驱动的机制一样,效率很高,但是,此类系统仍然容易受到黑客攻击。黑客攻击的主要方式就是引入“噪音”(额外的数据点,以干扰和扭曲输入信号),从而使外部元素被错误地分类。

此类黑客攻击术语称为将“对抗性实例”引入该系统,通过添加噪音,机器学习算法将会被误导,无法正确对熊猫和长臂猿的图像进行分类。此外,随着自动驾驶汽车的兴起,一旦自动驾驶汽车的机器学习系统被入侵,该系统可能会将停车标志误分类为绿色交通信号灯。

因此,让机器学习系统能够抵御黑客攻击一直是一个活跃的研究议题。而最新抵御方法是由Richard Nock从公共卫生方面汲取的经验。

在医学上,接种疫苗建立在这样一个理念上,即让身体的免疫系统暴露在虚弱或已经死亡的病原体(例如,导致流感或脊髓灰质炎的病原体)环境中,可以促进免疫系统产生特定的抗体,随后,免疫系统会“记住”病原体,下次遇到时,免疫系统会认出病原体并全力将其立马清除。

Nock和同事也采取了相同的方法。Nock解释表示:“我们的新方法使用了类似于疫苗接种的过程来预防黑客攻击。我们先打造一个较弱的黑客攻击,例如小幅度地修改或扭曲图像,以创造一个更加复杂的训练数据集。当该算法的训练数据暴露在小幅度的失真或修改环境中,得到的模型就会更加强大,对此类黑客攻击免疫。”

虽然该方法还处于研究早期阶段,还未在现实世界中进行测试,以对抗恶意黑客入侵,但是将会是一个非常有前景的方法。


试读已结束

如需阅读全部内容,请查看

*特别声明:本文为技术类文章,禁止转载或大篇幅摘录!违规转载,法律必究。

本文地址:https://auto.gasgoo.com/News/2019/07/120841364136I70112355C601.shtml

0

好文章,需要你的鼓励