經(jīng)研究發(fā)現(xiàn)，激光雷達(dá)感知系統(tǒng)也可以被欺騙。通過欺騙激光雷達(dá)傳感器信號，從而欺騙車輛激光雷達(dá)感知系統(tǒng)，使其看到根本不存在的障礙。

對自動(dòng)駕駛汽車而言，最重要的是感知周圍發(fā)生的事情。與人類駕駛員一樣，自動(dòng)駕駛汽車也需要即時(shí)決策的能力。

目前，大多數(shù)自動(dòng)駕駛汽車依靠多個(gè)傳感器感知世界，大多數(shù)系統(tǒng)使用攝像頭、雷達(dá)傳感器和激光雷達(dá)傳感器組合，車載計(jì)算機(jī)將這些數(shù)據(jù)融合在一起，形成對汽車周圍情況的全面了解。沒有這些數(shù)據(jù)，自動(dòng)駕駛汽車就無法安全行駛。由于每個(gè)系統(tǒng)都可以檢測其他系統(tǒng)，因此使用多個(gè)傳感器系統(tǒng)的汽車性能更好，也更安全。但這些系統(tǒng)并非萬無一失，比如簡單地在交通標(biāo)志上貼上標(biāo)簽，完全改變其含義，就可以欺騙攝像頭感知系統(tǒng)。

密歇根大學(xué)RobustNet 研究小組、加州大學(xué)歐文分校的計(jì)算機(jī)科學(xué)家Qi Alfred Chen和SPQR實(shí)驗(yàn)室的同事們合作研究發(fā)現(xiàn)，激光雷達(dá)感知系統(tǒng)也可以被欺騙。通過欺騙激光雷達(dá)傳感器信號，從而欺騙車輛激光雷達(dá)感知系統(tǒng)，使其看到根本不存在的障礙。如果發(fā)生這種情況，車輛可能會(huì)因阻塞交通或突然剎車而導(dǎo)致撞車。

欺騙激光雷達(dá)信號

激光雷達(dá)感知系統(tǒng)有兩個(gè)組成部分，即傳感器和處理傳感器數(shù)據(jù)的機(jī)器學(xué)習(xí)模型。激光雷達(dá)傳感器通過發(fā)出光信號，并測量光信號從物體反射回傳感器的時(shí)長，計(jì)算自身與周圍環(huán)境之間的距離，這種來回的時(shí)間也稱為“飛行時(shí)間（TOF）”。

激光雷達(dá)裝置每秒發(fā)出成千上萬的光信號。然后，其機(jī)器學(xué)習(xí)模型利用返回的脈沖繪制汽車周圍的世界，這類似于蝙蝠在夜間利用回聲定位感知障礙物的位置，但是這些脈沖可以被欺騙，攻擊者可以向傳感器發(fā)出光信號，以混淆傳感器。

然而，欺騙激光雷達(dá)傳感器，使其看到不存在的車輛更加困難。由于信號以光速傳播，攻擊者需要以納秒級精度計(jì)算發(fā)射到目標(biāo)激光雷達(dá)上的信號的時(shí)間。當(dāng)激光雷達(dá)使用飛行時(shí)間來計(jì)算距離時(shí)，細(xì)微的差異會(huì)顯現(xiàn)出來。

如果攻擊者成功地欺騙了激光雷達(dá)傳感器，還必須欺騙機(jī)器學(xué)習(xí)模型。OpenAI研究實(shí)驗(yàn)室的研究表明，機(jī)器學(xué)習(xí)模型很容易受到特殊信號或輸入的影響，這稱為對抗樣本。例如，特殊制成的交通標(biāo)志貼紙可以欺騙攝像頭傳感器。

研究人員發(fā)現(xiàn)攻擊者可以使用類似的方法干擾激光雷達(dá)。攻擊者利用專門用于欺騙機(jī)器學(xué)習(xí)模型的信號，讓其誤以為存在障礙。激光雷達(dá)傳感器將黑客的虛假信號輸入機(jī)器學(xué)習(xí)模型，機(jī)器學(xué)習(xí)模型會(huì)識別這些信號，而誤以為存在障礙。對抗樣本經(jīng)過精心設(shè)計(jì)，可滿足機(jī)器學(xué)習(xí)模型的期望。例如，攻擊者可能會(huì)發(fā)出卡車靜止的信號，為了實(shí)施攻擊，攻擊者可能將其設(shè)置在十字路口，或者將虛假信號置于自動(dòng)駕駛汽車前面的車輛。

兩種可能的攻擊

研究人員選擇了一個(gè)有較多汽車制造商使用的自動(dòng)駕駛系統(tǒng)，并使用該團(tuán)隊(duì)收集的真實(shí)世界傳感器數(shù)據(jù)，演示了兩種不同的攻擊。在“緊急剎車攻擊”中，展示了攻擊者如何讓車輛誤以為路上出現(xiàn)了障礙物，而突然剎車。在“自動(dòng)駕駛凍結(jié)攻擊”中，研究人員使用虛假障礙，愚弄一輛在紅燈前停下的車輛，使其在紅燈變綠后仍然停滯不前。

研究人員表示，希望通過利用自動(dòng)駕駛感知系統(tǒng)的漏洞，為構(gòu)建自動(dòng)駕駛技術(shù)的團(tuán)隊(duì)敲響警鐘。關(guān)于自動(dòng)駕駛系統(tǒng)中新型安全性問題的研究才剛剛開始，研究人員希望在系統(tǒng)被攻擊前發(fā)現(xiàn)更多潛在漏洞。

編輯：hfy