/?導讀?/

由于特斯拉、Waymo等創(chuàng)新型汽車制造商以及其他行業(yè)參與者，無人駕駛汽車現(xiàn)在成為熱門話題。隨著全自動駕駛汽車越來越接近現(xiàn)實，安全仍然是重中之重。最近，以色列研究人員小組的最新發(fā)現(xiàn)，可能會對使用計算機視覺系統(tǒng)觀察世界的汽車產(chǎn)生影響。

他們發(fā)現(xiàn)，數(shù)字廣告牌上停車標志的閃爍圖像會導致自動駕駛汽車猛剎車。這可能會在道路上造成嚴重的問題，包括發(fā)生危險事故的風險。

許多人類的駕駛員闖過停車標志，也許它被藏在一根桿子后面，或者被另一車道上的一輛廂式貨車遮擋了，停車標志設計的可能并不完美。另一方面，人們卻不會因為他們看到了高速公路廣告牌上的停車標志圖片而剎車。

最近，無人駕駛汽車公司推出了計算機視覺系統(tǒng)，使他們的車輛以驚人的清晰度看世界。特斯拉就是其中之一。在整個2020年，汽車制造商一直在努力讓其Autopilot系統(tǒng)識別并響應交通信號燈和停車標志的變化。目前，Beta版能夠識別交通信號燈和停止標志。

不幸的是，該技術似乎存在嚴重缺陷。以色列研究團隊在一份聲明中解釋了廣告牌問題如何影響自動駕駛汽車。本·古里安大學的研究員伊斯羅爾·米爾斯基（Yisroel Mirsky）說：“攻擊者只是照亮道路上的物體圖像，或者在數(shù)字廣告牌中注入幾幀，汽車就會剎車或可能轉彎，這很危險?！?/p>

在今年早些時候一項實驗中，研究人員分別在道路、樹木等物體上投射了人影、路標、道路標志線等誤導性投影，結果搭載 HW2.5 Autopilot 的 Tesla Model X 全部識別成真實的標志。

而最近他們有發(fā)布一些新的研究成果，他們發(fā)現(xiàn)在一個電子廣告牌中嵌入幾幀的路標也能達到相同的效果。這就意味著，有哪些東西是人類駕駛員不會留意，但自動駕駛系統(tǒng)會注意到。

他們提醒說，如果黑客入侵了聯(lián)網(wǎng)的廣告牌，那么他們就能利用這一漏洞制造交通擁堵或事故，而且?guī)缀醪涣粝伦C據(jù)。這篇論文已被 2020 年第 27 屆 ACM 計算機和通信安全（CCS）會議收錄。

在這篇論文中，他們稱這種現(xiàn)象為“ split-second phantom Attack”（分秒幻影攻擊），這樣一種科學缺陷，它導致兩個先進的駕駛員輔助系統(tǒng)（ADAS），Telsa Model X（HW 2.5和HW 3）和Mobileye 630來處理無深度物體，作為真正的障礙物/物體出現(xiàn)幾毫秒，討論了瞬間幻影攻擊為ADAS 帶來的挑戰(zhàn)。

攻擊者只需通過將幻像路標嵌入數(shù)字廣告牌上的廣告中，來遠程實施瞬間幻像攻擊，這會導致特斯拉的自動駕駛突然在路中間停下汽車，Mobileye 630 發(fā)出虛假通知。

為了應對這種威脅，他們也提出了一項對策，僅使用攝像機傳感器即可確定檢測到的物體是幻影還是真實物體。該對策（GhostBusters）使用“專家經(jīng)驗的”方法，并將從四個輕型深度卷積神經(jīng)網(wǎng)絡中獲得的結果進行組合，這些神經(jīng)網(wǎng)絡根據(jù)對象的光線，上下文，表面和深度來評估對象的真實性。證明了對策的有效性（TPR為0.994，F(xiàn)PR為零），并測試了其對付對抗性機器學習攻擊的魯棒性。

黑客輕松完成這項特技的過程令人震驚。也許最困難的部分是找到一個聯(lián)網(wǎng)的廣告牌，該廣告牌應距離汽車的視野中的道路足夠近。在當今廣告充斥的世界中，似乎并不難找。雖然對于平面幻像，激光雷達的感知能力足夠好，但是不可否認目前的視覺方案并不能足夠的安全。

- End -