当前位置:首页 > 智能网联 > 正文

借鉴接种疫苗原理 CSIRO研发新技术可让自动驾驶神经网络对黑客攻击免疫

2019-07-12 08:30:01 余秋云 盖世汽车
核心提示:现代社会中,机器学习系统(或称神经网络)正变得越来越流行,而且被广泛应用于交通管理、医疗诊断和农业等各个领域,此外,它们还是自动驾驶汽车的关键部件。

盖世汽车讯 据外媒报道,澳大利亚国家科学研究局(CSIRO)研发出一种编程技术,该技术的工作原理与疾病预防疫苗接种类似,能够保护机器学习系统免受恶意的网络攻击。

现代社会中,机器学习系统(或称神经网络)正变得越来越流行,而且被广泛应用于交通管理、医疗诊断和农业等各个领域,此外,它们还是自动驾驶汽车的关键部件。

从最初的训练阶段开始,机器学习系统会在给定的任务中重复运行成千上万次,然后,得出的算法才具备学习的能力,被添加至其计算机指令系统,并据此采取行动,无需进一步的人工操作。

尽管机器学习系统与其他由计算机驱动的机制一样,效率很高,但是,此类系统仍然容易受到黑客攻击。黑客攻击的主要方式就是引入“噪音”(额外的数据点,以干扰和扭曲输入信号),从而使外部元素被错误地分类。

此类黑客攻击术语称为将“对抗性实例”引入该系统,通过添加噪音,机器学习算法将会被误导,无法正确对熊猫和长臂猿的图像进行分类。此外,随着自动驾驶汽车的兴起,一旦自动驾驶汽车的机器学习系统被入侵,该系统可能会将停车标志误分类为绿色交通信号灯。

因此,让机器学习系统能够抵御黑客攻击一直是一个活跃的研究议题。而最新抵御方法是由Richard Nock从公共卫生方面汲取的经验。

在医学上,接种疫苗建立在这样一个理念上,即让身体的免疫系统暴露在虚弱或已经死亡的病原体(例如,导致流感或脊髓灰质炎的病原体)环境中,可以促进免疫系统产生特定的抗体,随后,免疫系统会“记住”病原体,下次遇到时,免疫系统会认出病原体并全力将其立马清除。

Nock和同事也采取了相同的方法。Nock解释表示:“我们的新方法使用了类似于疫苗接种的过程来预防黑客攻击。我们先打造一个较弱的黑客攻击,例如小幅度地修改或扭曲图像,以创造一个更加复杂的训练数据集。当该算法的训练数据暴露在小幅度的失真或修改环境中,得到的模型就会更加强大,对此类黑客攻击免疫。”

虽然该方法还处于研究早期阶段,还未在现实世界中进行测试,以对抗恶意黑客入侵,但是将会是一个非常有前景的方法。

 

*特别声明:本文为盖世汽车原创技术文章,版权归盖世汽车所有,禁止转载或大篇幅摘录!违规转载,法律必究。

本文地址:http://auto.gasgoo.com/News/2019/07/120841364136I70112355C601.shtml

文章标签: 黑科技 前瞻技术 自动驾驶

 


关于盖世汽车| 联系电话:021-39197980 | 联系邮箱:info@gasgoo.com| 客服QQ:2569524782

盖世汽车旗下网站:中文站|国际站|中文汽车资讯|英文汽车资讯|盖世汽车社区

盖世汽车 版权所有2011|未经授权禁止复制或建立镜像,否则将追究法律责任。

增值电信业务经营许可证 沪B2-2007118沪ICP备07023350号