新美國安全中心發(fā)布《人工智能與國家安全》報(bào)告

來源：中國航空?qǐng)?bào) 時(shí)間：2018-07-18 11:52:59 作者：郭彥江

7月10日，繼美國哈佛大學(xué)和國會(huì)研究處發(fā)布《人工智能和國家安全》報(bào)告之后，美國新安全中心（CNAS）智庫發(fā)布2018年最新版《人工智能與國家安全》報(bào)告，報(bào)告全文共28頁，分析了人工智能在網(wǎng)絡(luò)安全、信息安全、經(jīng)濟(jì)和金融、國家防御、情報(bào)、國土安全等方面的應(yīng)用，研究了人工智能變革對(duì)全球安全的不利影響。報(bào)告認(rèn)為人工智能給未來世界發(fā)展帶來前所未有的機(jī)遇，美國應(yīng)制定國家戰(zhàn)略，對(duì)人工智能產(chǎn)業(yè)發(fā)展進(jìn)行引導(dǎo)，研究如何利用人工智能的優(yōu)勢(shì)，同時(shí)減輕人工智能帶來的不利影響。

一、與國家安全相關(guān)的人工智能應(yīng)用

在美國和其他許多國家，有許多與國家安全相關(guān)的人工智能應(yīng)用的例子。報(bào)告研究了人工智能在網(wǎng)絡(luò)安全、信息安全、經(jīng)濟(jì)和金融、國防、情報(bào)、國土安全、外交等方面的應(yīng)用，這些領(lǐng)域并不全面，只是幫助從事國家安全研究的人員去思考人工智能對(duì)國家安全的影響。

網(wǎng)絡(luò)安全

網(wǎng)絡(luò)安全是人工智能一個(gè)突出的潛在應(yīng)用領(lǐng)域。2016年8月，美國國防預(yù)先研究計(jì)劃局（DARPA）舉行第一次網(wǎng)絡(luò)安全挑戰(zhàn)賽，旨在實(shí)驗(yàn)性探索無人干預(yù)條件下的入侵、補(bǔ)丁、網(wǎng)絡(luò)防御方面的軟件程序。來自卡耐基梅隆大學(xué)ForAllSecure初創(chuàng)企業(yè)打造的Mayhem“自動(dòng)攻擊系統(tǒng)”在經(jīng)歷95輪的挑戰(zhàn)后奪得冠軍。美國國防部隨后與ForAllSecure公司簽署一份為期2年的“Voltron”實(shí)施計(jì)劃，該計(jì)劃旨在利用尖端人工智能（AI）技術(shù)發(fā)現(xiàn)美國軍方操作系統(tǒng)和定制程序中存在的編碼漏洞。2016年10月，美國國家安全局局長邁克爾·羅杰斯在講話中指出“人工是能是未來網(wǎng)絡(luò)安全的基礎(chǔ)”。

信息安全

人工智能在不斷變化的威脅形勢(shì)中對(duì)信息安全產(chǎn)生重大影響，主要表現(xiàn)在人工智能通過信息時(shí)代的機(jī)器人和相關(guān)系統(tǒng)產(chǎn)生廣泛影響。人工智能可以加劇或減輕不斷變化的信息生態(tài)系統(tǒng)中虛假信息的影響。類似于人工智能在網(wǎng)絡(luò)攻擊中的作用，人工智能提供了一種機(jī)制，可以對(duì)目標(biāo)用戶進(jìn)行片面的定制傳播，或大規(guī)模擴(kuò)大傳播的效果和范圍。采取的手段主要包括：

1.開發(fā)行為數(shù)據(jù)。人工智能通過搜集特定行為數(shù)據(jù)，通過機(jī)器學(xué)習(xí)對(duì)數(shù)據(jù)進(jìn)行分析，想特定用戶推送符合消費(fèi)者行為的信息。劍橋公司通過對(duì)Facebook中用戶使用網(wǎng)絡(luò)的數(shù)據(jù)進(jìn)行個(gè)性化評(píng)估，為用戶量身定制收到的信息和內(nèi)容。

2.模式識(shí)別和預(yù)測(cè)。當(dāng)應(yīng)用于人類行為分析時(shí)，人工智能通過模式識(shí)別來計(jì)算未來事件發(fā)生的概率。在社交平臺(tái)上應(yīng)用機(jī)器學(xué)習(xí)算法優(yōu)先考慮用戶期望支持的內(nèi)容，自動(dòng)生成相應(yīng)的敏感信息。

3.放大和議程設(shè)置。研究表明，機(jī)器人占2016年所有在線流量的50%以上。根據(jù)“人為推廣的內(nèi)容可以操縱”原則，人們看到某些內(nèi)容的次數(shù)越多，人們往往認(rèn)為這些內(nèi)容很重要。人工智能通過學(xué)習(xí)和模仿真實(shí)的人的言論來影響人們對(duì)某些事情的判斷。在選舉中，政治候選人通過政治機(jī)器人，夸大候選人的真實(shí)追隨者數(shù)量，從而引導(dǎo)廣大選民的選票。

4.針對(duì)目標(biāo)情感的自然語言處理。人工智能在自然語言處理方面的進(jìn)步使得人工智能可以針對(duì)不同政治傾向的人提供各自意識(shí)形態(tài)的信息。同樣的，人工智能可以通過收集量化用戶反應(yīng)的方式最大限度影響用戶。谷歌公司2016年開始針對(duì)不同政治傾向的用戶提供相關(guān)意識(shí)形態(tài)的信息。

5.深度欺騙。人工智能系統(tǒng)可以通過足夠的語音訓(xùn)練合成逼真的人聲。當(dāng)前這項(xiàng)技術(shù)尚未取得突破，但相關(guān)人士推測(cè)，這項(xiàng)技術(shù)距離真正投入使用只有不到5年的時(shí)間。

經(jīng)濟(jì)和金融安全

通過分析和學(xué)習(xí)大量數(shù)據(jù)，人工智能可以完成以人為中心的反非法融資系統(tǒng)無法實(shí)現(xiàn)的任務(wù)。AI的異常檢測(cè)和模式識(shí)別功能可以幫助系統(tǒng)從金融機(jī)構(gòu)收集非結(jié)構(gòu)化數(shù)據(jù)。即使缺乏大規(guī)模的模式分析，人工智能也可以改善反非法融資框架，確保持續(xù)關(guān)注非法融資威脅。人工智能還可以減輕金融機(jī)構(gòu)的壓力。銀行將不再需要轉(zhuǎn)移注意力來應(yīng)對(duì)不斷變化的政府優(yōu)先事項(xiàng)。AI還可以幫助政府和金融機(jī)構(gòu)解決數(shù)據(jù)隱私和保護(hù)問題。

國防

各軍事強(qiáng)國正在研發(fā)自主系統(tǒng)和機(jī)器人。人工智能和機(jī)器學(xué)習(xí)將使這些系統(tǒng)能夠在更廣泛的環(huán)境中應(yīng)對(duì)更具挑戰(zhàn)性的任務(wù)。在作戰(zhàn)行動(dòng)中，機(jī)器人和自主系統(tǒng)有可能加快戰(zhàn)斗速度。

1.態(tài)勢(shì)感知。小型機(jī)器人傳感器可用于收集信息，采用人工智能技術(shù)的傳感器和處理器可幫助作戰(zhàn)人員更好地了解該信息。當(dāng)前美國國防部已經(jīng)將深度神經(jīng)網(wǎng)絡(luò)用于無人機(jī)視頻輸入的圖像分類，以幫助作戰(zhàn)人員處理收集的大量數(shù)據(jù)。

2.電磁頻譜的優(yōu)勢(shì)。人工智能產(chǎn)品可以通過與另一個(gè)人工智能產(chǎn)品進(jìn)行電磁對(duì)抗來進(jìn)行學(xué)習(xí)和提高。例如，一個(gè)AI系統(tǒng)可以嘗試通過一個(gè)有復(fù)雜的電磁環(huán)境進(jìn)行通信，而另一個(gè)系統(tǒng)試圖堵塞發(fā)送電磁信號(hào)。通過這些對(duì)抗方法，兩個(gè)系統(tǒng)都可以學(xué)習(xí)和改進(jìn)。DARPA于2014年開始舉行頻譜挑戰(zhàn)賽。DARPA現(xiàn)在正在使用機(jī)器學(xué)習(xí)來輔助完成無線電頻譜分配。

3.誘餌和偽裝。人工智能可通過生成對(duì)抗性網(wǎng)絡(luò)來制造與軍事相關(guān)的偽裝和誘餌，小型機(jī)器人系統(tǒng)可用作消耗性誘餌。隨著軍隊(duì)將更多的AI傳感器用于數(shù)據(jù)分類，針對(duì)此類系統(tǒng)的欺騙攻擊也將越來越重要。

4.策略。進(jìn)化和強(qiáng)化學(xué)習(xí)方法可用于在模擬環(huán)境中生成新策略，從而在其他環(huán)境中提供專門的解決方案。

5.指揮與控制。隨著信息數(shù)量和處理速度超過作戰(zhàn)人員的能力，人工智能對(duì)指揮和控制將變得越來越重要。已被授權(quán)執(zhí)行某些操作的自主系統(tǒng)可以在戰(zhàn)場(chǎng)邊緣以機(jī)器速度做出反應(yīng)，而無需等待人工批準(zhǔn)。AI還可以幫助指揮官更快地處理信息，使他們能夠更好地理解快速變化的戰(zhàn)場(chǎng)空間。通過自動(dòng)化，指揮官可以更快，更精確地將他們的命令傳遞給他們的武裝力量。

情報(bào)

AI在情報(bào)收集和分析方面有很多用途。AI工具可以幫助分析智能設(shè)備、物聯(lián)網(wǎng)和人類互聯(lián)網(wǎng)活動(dòng)數(shù)據(jù)之間的聯(lián)系，標(biāo)記可疑活動(dòng)，融合不同的數(shù)據(jù)元素，映射網(wǎng)絡(luò)以及預(yù)測(cè)未來行為。人工智能在情報(bào)分析方面也具有巨大的潛在價(jià)值。人工智能系統(tǒng)可用于大規(guī)模跟蹤和分析大量數(shù)據(jù)（包括開源數(shù)據(jù)），尋找可疑活動(dòng)的跡象和警告。通過異常檢測(cè)可以幫助找到恐怖分子，秘密特工，或潛在的敵人軍事活動(dòng)的跡象和警告。

國土安全

AI還可以用于國土安全和國土安全應(yīng)用?；谌斯ぶ悄艿臄?shù)據(jù)感知，處理和分析可以更好地為人類決策提供信息。美國國土安全部（DHS）已經(jīng)開始采用并實(shí)施一些人工智能相關(guān)技術(shù)，包括：

1.語音識(shí)別算法。美國海岸警衛(wèi)隊(duì)使用人工智能分析語音，這有助于在法律上解決虛假遇險(xiǎn)信號(hào)。

2.用于機(jī)器學(xué)習(xí)的開源數(shù)據(jù)。與Alphabet公司的Kaggle平臺(tái)合作開發(fā)更好的算法來評(píng)估非法和存有危險(xiǎn)物品的乘客行李。

3.理解數(shù)據(jù)。由DHS和NASA噴氣推進(jìn)實(shí)驗(yàn)室開發(fā)的AI平臺(tái)集成了實(shí)時(shí)數(shù)據(jù)，為消防員提供了如何最好地發(fā)揮團(tuán)隊(duì)作用的建議。

AI還廣泛適用于各種國土安全功能，如邊境安全。與無人機(jī)和地面機(jī)器人相結(jié)合的人工智能系統(tǒng)可通過自動(dòng)監(jiān)視和異常檢測(cè)技術(shù)幫助對(duì)美國邊境進(jìn)行監(jiān)測(cè)。

外交和人道主義行動(dòng)

人工智能的進(jìn)步也可以重塑外交的實(shí)踐。圖像識(shí)別和信息分類中的AI技術(shù)可以通過監(jiān)控人員和識(shí)別潛在漏洞來提高外交能力。此外，語言處理算法將降低國家之間的語言障礙，允許他們更容易地與外國政府和公眾溝通。國際人道主義行動(dòng)也可以從人工智能技術(shù)中獲益。人工智能技術(shù)可以幫助監(jiān)督選舉，協(xié)助維和行動(dòng)。人工智能還可以通過提高生產(chǎn)力，幫助直接改善欠發(fā)達(dá)國家的生活質(zhì)量。

二、人工智能對(duì)全球安全的不利影響

除了直接的國家安全影響外，人工智能如何產(chǎn)生與國際安全環(huán)境相關(guān)的政治和社會(huì)變革？鑒于經(jīng)濟(jì)和軍事力量之間的整體聯(lián)系，特別是在中長期，理解人工智能創(chuàng)新將如何影響全球經(jīng)濟(jì)，信息環(huán)境和世界各地的社會(huì)至關(guān)重要。

經(jīng)濟(jì)和未來工作

人工智能將影響勞動(dòng)力市場(chǎng)的方式有很多預(yù)測(cè)，而這些預(yù)測(cè)存在很大程度的不確定性。例如，麥肯錫全球研究所最近的一份報(bào)告表明，目前幾乎所有行業(yè)的工作任務(wù)都是自動(dòng)化的，根據(jù)麥肯錫的數(shù)據(jù)，到2030年全球失業(yè)人數(shù)中值估計(jì)為4億，最高可達(dá)8億。Forrester研究報(bào)告認(rèn)為，到2027年，將有2470萬個(gè)就業(yè)崗位將被取代。

在人工智能革命開始時(shí)，當(dāng)今尖端公司創(chuàng)造的就業(yè)崗位數(shù)量已遠(yuǎn)遠(yuǎn)小于數(shù)十年前尖端公司創(chuàng)造的就業(yè)崗位數(shù)量。在這種情況下，執(zhí)行重復(fù)身體和認(rèn)知?jiǎng)趧?dòng)的工人變得不那么重視。

政治和社會(huì)混亂

經(jīng)濟(jì)混亂也可能助長社會(huì)和政治動(dòng)蕩。維持穩(wěn)定需要一定程度的政治靈活性。在最壞的情況下，政治沖突可能導(dǎo)致國內(nèi)動(dòng)亂，叛亂，內(nèi)戰(zhàn)，民族主義，仇外心理和轉(zhuǎn)向威權(quán)主義。

人工智能產(chǎn)生的不穩(wěn)定性已經(jīng)成為全球民粹主義民族主義運(yùn)動(dòng)興起的潛在推動(dòng)力。

信息環(huán)境

隨著計(jì)算機(jī)越來越能夠針對(duì)特定用戶定位信息，放大消息，過濾信息，甚至生成虛假的音頻，圖像和視頻，AI將繼續(xù)改變信息環(huán)境。這種轉(zhuǎn)變會(huì)帶來深遠(yuǎn)的影響。人工智能技術(shù)可能會(huì)削弱（如果不是結(jié)束）記錄證據(jù)作為證據(jù)的能力。

政治權(quán)力

人工智能可能影響民主進(jìn)程和集權(quán)政權(quán)的力量，同時(shí)也影響全球公共輿論。通過應(yīng)用人工智能技術(shù)實(shí)現(xiàn)的高度細(xì)化的選民分析可以通過選舉過程影響民主規(guī)范。

人工智能帶來的技術(shù)機(jī)遇塑造了未來，但并未確定它。國家、組織和個(gè)人可以選擇如何使用和響應(yīng)人工智能的各種用途。他們的政策可以指導(dǎo)，限制或鼓勵(lì)人工智能的某些用途。為了應(yīng)對(duì)未來的挑戰(zhàn)，美國需要采取國家戰(zhàn)略，以便如何利用人工智能的優(yōu)勢(shì)，同時(shí)減輕其破壞性影響。

注：本文來源于中國航空?qǐng)?bào)，記者郭彥江，版權(quán)著作權(quán)屬原創(chuàng)者所有。數(shù)據(jù)觀轉(zhuǎn)載此文只為傳播信息之目的無商業(yè)用途，如涉及版權(quán)等事宜請(qǐng)聯(lián)系小編更正。

責(zé)任編輯：陳近梅