AI春潮涌動(dòng) 安全時(shí)不我待

來源：中國(guó)經(jīng)濟(jì)導(dǎo)報(bào) 時(shí)間：2018-07-17 16:02:33 作者：王曉濤

面對(duì)一個(gè)人臉識(shí)別系統(tǒng)的門禁，一位網(wǎng)絡(luò)安全高手利用門禁的三個(gè)系統(tǒng)漏洞，成功完成了三次攻擊，讓門禁失效，但這位選手最后只拿到了2萬元獎(jiǎng)金，每個(gè)漏洞才值6000多元。在日前舉行的2018中國(guó)互聯(lián)網(wǎng)大會(huì)人工智能移動(dòng)安全高峰論壇上，KEEN CEO、極棒黑客大賽創(chuàng)始人王琦講到這件事時(shí)以遺憾的語氣說，一方面表明企業(yè)的產(chǎn)品漏洞太不值錢了，另一方面，則說明一些看起來很高大上的人臉識(shí)別其實(shí)不堪一擊。

事實(shí)上，人工智能（AI）作為一項(xiàng)高賦能技術(shù)，其廣泛應(yīng)用正在逐漸成為趨勢(shì)。不過，透過上面的例子不難看出，在各行各業(yè)擁抱人工智能的同時(shí)，移動(dòng)安全領(lǐng)域所面臨的新挑戰(zhàn)也不容忽視。

AI增加了IoT的傳統(tǒng)風(fēng)險(xiǎn)

對(duì)于近年AI的火熱，北京大學(xué)操作系統(tǒng)實(shí)驗(yàn)室的郭耀教授感受頗深。他說，今年招生的時(shí)候，有家長(zhǎng)問北大有做人工智能的嗎？我說都在做，做理論的老師在做人工智能理論，做算法的老師在做人工智能的算法，做系統(tǒng)的老師在做人工智能的系統(tǒng)，做軟件的老師在做人工智能的軟件開發(fā)，做硬件的老師在做智能硬件、智能芯片?！翱梢哉f全民都在做AI?！彼f。

事實(shí)上，移動(dòng)終端類型的多樣化，5G即將大規(guī)模商用，再加上AI技術(shù)的應(yīng)用，使得人們對(duì)AIoT時(shí)代充滿了期待。由于中國(guó)有多個(gè)大小不同的移動(dòng)應(yīng)用市場(chǎng)，因此移動(dòng)領(lǐng)域的生態(tài)比國(guó)外更為復(fù)雜一些。泰爾實(shí)驗(yàn)室專家、移動(dòng)安全聯(lián)盟秘書長(zhǎng)楊正軍分析認(rèn)為，AIoT的威脅主要來自三個(gè)方面：第一，AI會(huì)放大IoT終端面臨的傳統(tǒng)安全風(fēng)險(xiǎn)。例如在硬件層面，主流芯片公司的產(chǎn)品一旦發(fā)現(xiàn)漏洞，將對(duì)硬件層面造成巨大的威脅。第二是系統(tǒng)安全，安卓和Linux是主流操作系統(tǒng)，漏洞難以避免，如果修復(fù)不及時(shí)，就會(huì)產(chǎn)生很大問題。第三是網(wǎng)絡(luò)的安全性比較弱，AI增加了IoT面臨的傳統(tǒng)風(fēng)險(xiǎn)。

據(jù)楊正軍介紹，今年4月，泰爾終端實(shí)驗(yàn)室挑選了600個(gè)終端，包括手機(jī)等設(shè)備，針對(duì)300個(gè)典型漏洞進(jìn)行測(cè)試，基本結(jié)論是每個(gè)終端有36個(gè)漏洞，最多的設(shè)備有158個(gè)漏洞，漏洞平均存在的時(shí)間是274天，他認(rèn)為這還是比較可怕的。如果看每個(gè)月的漏洞統(tǒng)計(jì)情況，IoT設(shè)備的安全問題就太多了，360去年發(fā)現(xiàn)IoT存在僵尸網(wǎng)絡(luò)漏洞的設(shè)備，有路由器、汽車、手表等。今年初，泰爾終端實(shí)驗(yàn)室聯(lián)合百度對(duì)電視做了專門分析，發(fā)現(xiàn)所謂的AI主要體現(xiàn)在語音方面，但有好幾家廠家的電視語音模塊是可以被控制的。

楊正軍表示，AI在IoT終端上的應(yīng)用存在安全盲點(diǎn)，重要原因在于目前行業(yè)主要關(guān)注的是算法功能實(shí)現(xiàn)、前景展望等?！翱陀^地講，前面專家說要注意自己軟件的漏洞，實(shí)際上對(duì)于一個(gè)創(chuàng)業(yè)公司來講，首先活下來是第一步。很多互聯(lián)網(wǎng)公司，即使他們做AI和大數(shù)據(jù)分析，但活下來是第一步，安全則是一個(gè)成本環(huán)節(jié)?！彼f。

值得注意的是，隱私與數(shù)據(jù)安全問題在AIoT設(shè)備中凸顯。究其原因，楊正軍認(rèn)為，因?yàn)锳I的基礎(chǔ)是海量的數(shù)據(jù)，基于海量的數(shù)據(jù)做分析，甚至利用個(gè)性化的信息、個(gè)人信息來提供定制化服務(wù)。有一個(gè)做短視頻社交的公司，通過收集使用者的照片進(jìn)行數(shù)據(jù)分析，如果A的照片庫里面有一個(gè)人C，B的照片庫里面假如也有C，說明A和B兩個(gè)可能是有關(guān)系的，這家公司就會(huì)把A的短視頻推送給B，因?yàn)樗麄冇泄餐暮糜袰。同樣，對(duì)于更敏感的短信內(nèi)容，如果發(fā)現(xiàn)兩條短信內(nèi)容是有關(guān)聯(lián)的，也會(huì)做定制化的推送?！斑@是很可怕的，也許不需要AI都可以做到。AI應(yīng)用不斷創(chuàng)新，會(huì)威脅到個(gè)人信息的安全。另外，利用大數(shù)據(jù)技術(shù)進(jìn)行挖掘分析和保護(hù)個(gè)人隱私之間確實(shí)存在天然的矛盾?！睏钫娬f。

讓人工智能為安全所用

的確，大多數(shù)產(chǎn)業(yè)都存在類似的情況，即在做技術(shù)推進(jìn)的時(shí)候，很少有人考慮安全問題。百度首席安全科學(xué)家韋韜表示，現(xiàn)在AI在各個(gè)領(lǐng)域推進(jìn)的速度超乎想象，在一些典型應(yīng)用場(chǎng)景中，存在極其嚴(yán)峻的安全和隱私現(xiàn)實(shí)威脅，安全問題可能會(huì)延緩AI的應(yīng)用。眾所周知，智能音箱和智能家居設(shè)備一旦出現(xiàn)安全問題，使用者的隱私就直接面臨非常嚴(yán)重的泄漏，其破壞能力超出了前兩年的手機(jī)?！八鼈兟穹谀愕闹車?，你想逃都逃不掉，手機(jī)的麥克是近場(chǎng)的，而智能音箱則是遠(yuǎn)場(chǎng)的。”他說。

小米科技首席安全官陳洋則比較釋然，他說：“完全沒有必要去恐懼AI帶來的安全問題，因?yàn)榘踩肋h(yuǎn)是一個(gè)不斷攻防的過程，問題暴露了，就去解決問題，自然也就安全了。”

長(zhǎng)虹信息安全燈塔實(shí)驗(yàn)室首席科學(xué)家唐博與陳洋的觀點(diǎn)基本一致，他認(rèn)為，AI不僅提高了產(chǎn)品效率，而且也改善了用戶使用體驗(yàn)，同時(shí)帶來一些安全問題也是正常的。在他看來，AI與安全存在三個(gè)發(fā)展階段：第一個(gè)階段是用AI的方法解決一些安全問題，可以用AI的方法識(shí)別攻擊，可以通過大數(shù)據(jù)分析，分析流量和終端的一些行為，來識(shí)別一些異常流量或者一些攻擊行為。第二個(gè)階段就是用安全來保護(hù)人工智能，在人工智能的模型被偷時(shí)，可以通過安全來加以保護(hù)。第三個(gè)階段就是在人工智能的安全或智能設(shè)備的安全達(dá)到一定程度的時(shí)候，AI會(huì)有更大的發(fā)展，到時(shí)候可能會(huì)出現(xiàn)跨界甚至跨平臺(tái)的更廣泛的AI應(yīng)用。

泰爾終端實(shí)驗(yàn)室的馬鑫認(rèn)為，AI是一把雙刃劍，他說：“AI它是一個(gè)大系統(tǒng)，是一個(gè)負(fù)能量很大的技術(shù)，同時(shí)它需要很大的系統(tǒng)，軟件越復(fù)雜，它的安全點(diǎn)越需要關(guān)注。要考慮AI應(yīng)用的場(chǎng)景，應(yīng)用場(chǎng)景比較簡(jiǎn)單的，它的安全性比較容易滿足或得到保障；在AI應(yīng)用比較復(fù)雜的情況下，更需要安全性的保障和研究?！?/p>

唐博認(rèn)為，在IoT時(shí)代，會(huì)有新的芯片和操作系統(tǒng)出現(xiàn)，這對(duì)中國(guó)企業(yè)來說是一個(gè)機(jī)會(huì)，對(duì)中國(guó)智能家居包括物聯(lián)網(wǎng)的發(fā)展，都會(huì)是一個(gè)機(jī)會(huì)。

要統(tǒng)一標(biāo)準(zhǔn)加強(qiáng)評(píng)測(cè)體系建設(shè)

楊正軍認(rèn)為，當(dāng)前在AIoT的發(fā)展中，政策標(biāo)準(zhǔn)比較雜亂，“比如智能鎖，聽說有五六個(gè)標(biāo)準(zhǔn)都在做，這會(huì)讓企業(yè)崩潰的。”他解釋說，“每個(gè)制定標(biāo)準(zhǔn)的企業(yè)可能會(huì)找到一個(gè)小的市場(chǎng)，但是行業(yè)里面的企業(yè)會(huì)比較麻煩，覺得找不到方向?！彼瑫r(shí)建議，要建立物聯(lián)網(wǎng)的安全檢測(cè)體系，促進(jìn)法律法規(guī)的落實(shí)，現(xiàn)在這一體系還不是特別明確。

針對(duì)人工智能移動(dòng)安全問題，工業(yè)和信息化部網(wǎng)絡(luò)安全管理局副局長(zhǎng)楊于燕提出以下四點(diǎn)建議：

第一要突破核心技術(shù)。核心技術(shù)是安全最大的命門，因此要加強(qiáng)技術(shù)攻關(guān)，提高人工智能產(chǎn)業(yè)自主可控的水平。要緊跟最新發(fā)展趨勢(shì)，努力引領(lǐng)人工智能先進(jìn)技術(shù)和顛覆性技術(shù)的發(fā)展。

第二要加強(qiáng)標(biāo)準(zhǔn)的制定，建立并完善基礎(chǔ)共性、互聯(lián)互通、安全隱私、行業(yè)應(yīng)用等技術(shù)標(biāo)準(zhǔn)體系，積極探索基于標(biāo)準(zhǔn)開展安全認(rèn)證。同時(shí)，企業(yè)要積極參與國(guó)際人工智能安全標(biāo)準(zhǔn)的制定工作，將中國(guó)標(biāo)準(zhǔn)推向世界。

第三要建立網(wǎng)絡(luò)威脅信息共享機(jī)制。各方要加強(qiáng)安全漏洞的管理，共享風(fēng)險(xiǎn)庫、案例庫等資源，加快安全態(tài)勢(shì)感知、威脅信息共享等系統(tǒng)的建設(shè)，并與物理的威脅信息共享平臺(tái)進(jìn)行對(duì)接，實(shí)現(xiàn)網(wǎng)絡(luò)威脅共享共治。

第四要加強(qiáng)應(yīng)急處置和評(píng)測(cè)體系的建設(shè)。落實(shí)公共互聯(lián)網(wǎng)網(wǎng)絡(luò)應(yīng)急預(yù)案，健全人工智能移動(dòng)安全應(yīng)急機(jī)制，同時(shí)評(píng)測(cè)機(jī)構(gòu)、實(shí)驗(yàn)室也要進(jìn)一步完善人工智能產(chǎn)品安全評(píng)估評(píng)測(cè)體系，提升人工智能產(chǎn)品和服務(wù)安全保障水平。（記者 王曉濤）

責(zé)任編輯：陳近梅