特斯拉“灵异事件”背后,智能驾驶随时变身智障驾驶
一家科技公司,因为“灵异事件”上热搜,这事就挺魔幻的。
一辆特斯拉Model 3,大白天的停在一个空旷无人的墓地里,车主一低头发现中控屏AP显示区域内,车头前方出现几个人影在做无规则运动,这意味着车辆识别到了前方有行人存在,但车主抬起头又发现前方除了草坪和墓碑啥也没有,瘆人不。
这只是几起特斯拉“灵异事件”中的一例,其他还有,比如夜深人静无人道路上,行驶中的特斯拉突然紧急刹停,原因是AP检测到了障碍物,但实际上前方啥也没有;又比如,在隧道内行驶的特斯拉,中控屏AP显示有辆大巴紧跟在后面足有数分钟,但车主看了眼后视镜又是啥也没发现的诸如此类“灵异事件”。
发现没有,这些事件每一次都和特斯拉的AP有关系,是不是可以总结一个规律了,或许是特斯拉AP系统强大的感知能力,检测了到某种自然世界不存在的东西呢?先别急着举报,听我给你讲完另外一个“灵异故事”。
这个“灵异故事”在某汽车品牌产品质量不太好的一段时间里传播很广,内容是这样:又是月黑风高夜深人静的一个晚上,某品牌车主独自驾着车,在空荡荡的林间公路上等红灯,红灯变绿给油起步,而就在车辆刚过路口时,突然车内警报声响了,这位独自驾车的某品牌车主低头一看,仪表盘显示着“后排有乘客未系安全带”…
惊不惊悚,刺不刺激,但相信你也看出来了这个“灵异故事”就是一段子,它调侃的对象是这个汽车品牌糟糕的产品质量。
同样,特斯拉的“灵异事件”背后和灵异两字也扯不上半毛钱关系,发现这类事情的原因只能有一个,那就是特斯拉的AP出现了问题。
关于自动驾驶的可靠性,其实远比想象中要脆弱,甚至只要你想,让智能驾驶直接变身智障驾驶真的不是很难,尤其是对走纯视觉方案的特斯拉来说,以上灵异事件的发生只能说特斯拉的AP又被欺骗了。
如何成功诱骗特斯拉的AP,此前我们还有过类似报道《花一分钱可以黑掉特斯拉?用这几种方式就行》(点击可阅读原报道)。
这里面有几个典型事例,比如科恩在一条正常的道路行驶线中央斜放置了三个小小的白色纸片,这些白色纸片几乎透明如果是人类驾驶员甚至很难发现它,然而就是这几枚纸片导致一辆开着AP的特斯拉Model S在经过此地时,主动向左偏转了方向驶入了对向车道。
对此,科恩实验室的说法是他们发现仅通过物理手段,就可以做到对特斯拉的AP实施攻击,其背后的原理是“对抗性补丁”。
具体逻辑是这样的:AI视觉识别系统是依赖训练神经网络来识别目标的,也就是需要提供大量的样本来参考,但也依然会存在部分样本无法识别或者误判的现象,这部分样本被称之为“对抗性补丁”,而一旦正常需要识别的目标中出现了“对抗性补丁”,那么误判或者无法识别的现象就会出现。
关于这个,科恩实验室还做了另一个实验,即利用人工智能对抗样本生成技术,生成了一副特定图像,这幅图像在人类看来几乎毫无意义,然而但当特斯拉面对这张图像的时候,自动雨刷开启了。
这些都是“对抗性补丁”对特斯拉成功实施攻击的例子,其实这些看起来还是比较困难,因为要做成功攻击,首先需要了解如何制造“对抗性补丁”,一般人并不容易知晓。
但是通过更简单粗暴的方式,就把特斯拉AP忽悠瘸的例子也有。
比如去年有研究人员仅用一截2英寸长黑色胶带对路边限速标示做了略微改动,结果成功让特斯拉AP从限速35km/h行驶加速到限速85km/h行驶。还有人在路边架起一台投影仪对路边树丛投射了一个限速标示,结果又让特斯拉AP成功中招了。
综合以上,为啥特斯拉AP这么容易好骗呢?这里面首先一个原因是特斯拉是走视觉识别的单车路线的,这需要对软件算法有着非常深的依赖性,可以说从算法上解决视觉信息的准确处理来做到自动驾驶,就是特斯拉AP的绝对核心技术。
但遗憾的是软件算法总会有漏网的Bug存在,就像前文的各种“灵异事件”,就显然是视觉识别中的软件算法出现了误判。
本来激光雷达会是对这种视觉识别方案很好补充,因为摄像头对3D物体识别能力很差,且易受逆光、黑暗等环境影响;毫米波雷达的优势在于测速、测距,但却不适用目标识别,尤其是静态目标识别等工作。
但激光雷达对动态障碍的检测跟踪,以及对周围环境的3D建模能力正是依赖于算法识别的摄像头和毫米波雷达的软肋,理论上有了激光雷达这种高级传感器的存在,实际上是可以很大程度上弥补软件算法的不足,甚至只要算法跟得上,效果可能要比纯视觉方案更加好。
一个很典型的例子,台湾高速特斯拉撞击白色货车事件就是摄像头看不清,而毫米波雷达又无法准确识别目标是什么,在算法层面前方大货车的存在就被过滤掉了,于是乎特斯拉一头撞了上去。而如果此时有激光雷达加持的话,完全可以识别前方的确有一个固定障碍物,然后成功规避。
但马斯克头铁,始终坚持不用激光雷达,坚持视觉方案一条路走到黑,过度依赖于算法识别,可是算法本身又是无上限的,它需要极其庞大的数据喂养,尽管特斯拉已经有“影子模式”了,但显然还远不够。
而且目前受限于算法的瓶颈,过度依赖于视觉方案的特斯拉还屡屡被一些非常低级的欺骗手段戏弄,以至于出现“闹鬼”的笑话。不过总之,这些事情发生再一次证明了一件事,未来,高级别的自动驾驶或许对于高精地图以及V2X车路协同的依赖是必须的,因为仅靠单车路线的视觉+算法的方案,也太不靠谱了。
谢谢那么好看的你读完了全文,再给辛苦写作的小编点个“在看”吧!
END