财新传媒 财新传媒

阅读:0
听报道

 

作者:蒋宝尚
在道路上放置一些简单的贴纸就能欺骗特斯拉Model S进入反向车道?游戏手柄就能操控车辆行驶?图像干扰能自动启动雨刷?
 
是的,根据近日腾讯科恩实验室的一项报告,特斯拉自动驾驶系统存在以下三大漏洞:
 
Auto-wipers视觉识别缺陷
 
特斯拉自动驾驶仪可以通过图像识别技术识别潮湿天气,然后在必要时打开雨刷。根据科恩实验室的研究,可以在物理世界中巧妙完成一个对抗性的例子,系统将受到干扰并返回“不正确”的结果,然后打开雨刷。
 
车道识别缺陷
 
特斯拉Autopilot通过识别道路交通标记识别车道并协助控制。基于这项研究,可以证明,通过在路上放置干扰贴纸,自动驾驶系统将捕获这些信息并做出异常判断,从而使车辆进入反向车道。
 
使用游戏手柄控制转向系统
 
在特斯拉Model S(版本号2018.6.1)上的自动驾驶仪系统遭到破坏之后,Keen Lab进一步证明了可以通过带有无线游戏手柄的自动驾驶系统控制转向系统,即使驾驶员未启动自动驾驶系统也是如此。
报告下载地址:
 
https://keenlab.tencent.com/en/whitepapers/Experimental_Security_Research_of_Tesla_Autopilot.pdf
 
这份报告详细描述了三种对特斯拉自动驾驶汽系统进行攻击的可能,包括对转向的远程控制,以及对自动驾驶仪的敌对示例攻击。
 
特斯拉创始人Elon Musk也发推特赞扬了腾讯科恩安全实验室(Tencent Keen Security Lab)所发现的这一漏洞报告。
自动雨刷以及遥控器操控车辆行驶测试
 
这份报告除了对特斯拉Autopilot的车道识别功能进行测试之外,还对雨刷的视觉识别、遥控器操控车辆行驶这两个功能进行了测试。
 
特斯拉Autopilot系统借助图像识别技术,通过识别外部天气状况实现自动雨刷功能。科恩实验室通过研究发现,利用AI对抗样本生成技术生成特定图像并进行干扰时,该系统输出了“错误”的识别结果,导致车辆雨刷启动。
 
另外,利用已知漏洞在特斯拉Model S(版本2018.6.1)获取Autopilot控制权之后,科恩实验室通过实验证明,即使Autopilot系统没有被车主主动开启,也可以利用Autopilot功能实现通过游戏手柄对车辆行驶方向进行操控。
具体操作步骤
为了实现远程控制方向盘攻击,研究人员必须越过几个冗余保护层,之后,研究人员编写了一个应用程序,该程序可让研究人员将视频游戏控制器与移动设备相连,然后控制目标车辆,越过真正的车内方向盘以及自动驾驶系统。但是此类攻击具有一定的局限性:当车辆处于停止状态(P档),或是在巡航控制下高速行驶时,研究人员可以完全接管该车;但是刚刚从R档(倒车档)换到D档(型车档)的汽车只有在时速为8公里/时时,才能被远程控制。
 
特斯拉汽车使用多种神经网络来实现自动驾驶和其他功能(例如可以检测挡风玻璃上的雨水并打开雨刷器的神经网络);研究人员能够采用对抗样本,对神经网络做出非常小、且大多无法被人类察觉的改变,导致机器学习系统发生严重的错误,从而达到攻击目的。
 
最引人注目的是,研究人员攻击了特斯拉自动驾驶系统autopilot的车道检测系统。通过在车道标记上增加干扰,能够欺骗自动驾驶系统,让其完全无法检测车道,但是,研究人员在车道标记上应用的干扰措施,对于人类来说,很容易就可发现。
 
OMT
 
其实,这不是科恩实验室第一次针对特斯拉的漏洞展开研究。
 
在2018年Black Hat USA大会上,科恩实验室就曾发表相关议题,面向全球首次公布了针对特斯拉Autopilot系统的远程无接触攻击,之后相关攻击链已经被特斯拉修复。
 
关于研究人员使用的攻击链,已经透漏给了特斯拉,特斯拉表示现在已经通过最新补丁,消除了该攻击链。
话题:



0

推荐

大数据文摘

大数据文摘

448篇文章 3年前更新

普及数据思维,传播数据文化

文章