當智能遇到安全

【本文摘自360集團副總裁兼首席安全官杜躍進在2022中國汽車先鋒論壇上的講話】
汽車網(wǎng)絡(luò)安全公司Upstream發(fā)布《2022全球汽車網(wǎng)絡(luò)安全報告》,統(tǒng)計表明,2021年全球公開報道的汽車網(wǎng)絡(luò)攻擊事件高達256件,較2018年增加了225%。
當智能汽車遇到相關(guān)問題時,該怎么辦?360集團副總裁兼首席安全官杜躍進從三個部分進行了分享:汽車是如何變的智能的?構(gòu)建智能的過程中存在哪些風險?智能汽車安全的原則思路。
智能和汽車的融合已經(jīng)很多,自動駕駛、自動泊車、智能座艙等,以自動駕駛為例,如果把它抽象出來,讓汽車實現(xiàn)智能化至少包括三個過程:一是各種各樣的傳感器,把物理世界里的各種信號采集進來,變成可以計算的數(shù)據(jù),然后在車載的計算平臺里根據(jù)這些數(shù)據(jù)進行計算,最后根據(jù)計算的結(jié)果進行執(zhí)行方面的控制。
但實際上,智能網(wǎng)聯(lián)汽車不是單體,早已融入到了智慧城市、智慧交通、智慧社會上,所以,實際整個系統(tǒng)要復(fù)雜很多。除了車內(nèi),智能汽車還需要和外界交互,通過無線通信去傳遞數(shù)據(jù),除了本地計算,很多數(shù)據(jù)是通過邊緣計算、云計算進行的,在這個過程中,任何環(huán)節(jié)都會面臨被攻擊的風險。
在數(shù)據(jù)產(chǎn)生的階段,通過信號干擾、信號注入、數(shù)據(jù)污染、數(shù)據(jù)投毒等方式來誤導(dǎo)車輛,比如讓車輛將停車標志識別成加速;在數(shù)據(jù)計算的環(huán)節(jié),無論是車內(nèi)計算平臺,還是云計算、邊緣計算,都是由軟件來實現(xiàn)的,這些軟件可以被系統(tǒng)入侵,入侵意味著可以被遠程控制,從而改變計算的結(jié)果;在數(shù)據(jù)傳輸?shù)沫h(huán)節(jié),如果兩個部件之間的協(xié)議設(shè)計不夠安全,可以通過身份冒充、數(shù)據(jù)篡改等方式,讓車輛無法正常工作。
車聯(lián)網(wǎng)普及之后,遠比汽車原來用的總線系統(tǒng)要復(fù)雜,車載網(wǎng)絡(luò)原先運行在封閉環(huán)境下,專用通信協(xié)議在設(shè)計過程中缺乏安全考慮,通信指令或數(shù)據(jù)被篡改直接影響信息輸入和決策輸出。
智能算法本身也可以被干擾、控制,由于當前AI算法的不可解釋性,通過制作對抗樣本,構(gòu)造人類難以分辨的擾動,將會引起AI算法決策輸出的改變。
?

?
智能汽車的風險雖然復(fù)雜,但任何一個都不能被忽視。應(yīng)對這些風險要遵循哪些原則?杜躍進列舉了十個方面。
第一,要做到單點識別風險,整體控制風險;第二,風險不可被徹底消除,但要做到風險可控;第三,不要迷信理論證明,不要輕信“不可能”;第四,人也是薄弱環(huán)節(jié),是供應(yīng)鏈安全的一部分;第五,安全體系要做到可信、安全、可控、可對抗、可生存;第六,安全涉及設(shè)計、生產(chǎn)、運行各個環(huán)節(jié);第七,安全必須做好頂層設(shè)計,基礎(chǔ)性、共性的東西要做好,漏洞無法窮盡,必須做好安全運營,及時發(fā)現(xiàn)和更新漏洞,隨時做好應(yīng)對;第八,智能系統(tǒng)安全離不開安全大腦;第九,圍繞能力體系,需建立專業(yè)的朋友圈;第十,敏捷進步,做好開放創(chuàng)新、協(xié)同創(chuàng)新、持續(xù)創(chuàng)新。