“平衡發(fā)展”的人工智能治理白皮書

來源：商湯智能產(chǎn)業(yè)研究院時(shí)間：2022-10-08 16:23:22 作者：

　　隨著人工智能技術(shù)高速發(fā)展，加強(qiáng)人工智能倫理與治理成為大勢(shì)所趨。近日，商湯科技發(fā)布《“平衡發(fā)展”的人工智能治理白皮書——商湯人工智能倫理與治理年度報(bào)告（2022年）》（以下簡(jiǎn)稱“報(bào)告”），系統(tǒng)呈現(xiàn)了商湯在推動(dòng)AI治理落地進(jìn)程中的洞察、思考、目標(biāo)與實(shí)踐。

　　報(bào)告提出，從發(fā)展歷程看，人工智能治理至今先后經(jīng)歷了三個(gè)發(fā)展階段，目前，已進(jìn)入落地實(shí)踐階段，即人工智能治理3.0階段。

圖1 全球人工智能治理發(fā)展歷程

資料來源：商湯智能產(chǎn)業(yè)研究院

　　人工智能治理的1.0階段

　　起于2016年，以原則討論為主。哈佛大學(xué)Jessica Fjeld等在研究中將人工智能治理1.0階段開端定位于2016年9月的Google、Facebook、IBM、亞馬遜和微軟等美國(guó)企業(yè)發(fā)布的《Principles of Partnership on AI》。

　　Anna Jobin 等通過梳理來自全球84份人工智能倫理相關(guān)的原則或準(zhǔn)則文件同樣發(fā)現(xiàn)，2016年之后發(fā)布的占比高達(dá)88%；其中，私營(yíng)企業(yè)和政府部門發(fā)布的文件數(shù)量分別占比22.6%和21.4%。

　　人工智能治理的2.0階段

　　起于2020年，以政策討論為主。2020年2月，歐盟委員會(huì)發(fā)布《人工智能白皮書》，在全球率先提出了“基于風(fēng)險(xiǎn)的人工智能監(jiān)管框架”。此后，主要國(guó)家紛紛跟進(jìn)，均在不同程度開展了監(jiān)管人工智能相關(guān)技術(shù)及應(yīng)用的探索。因此，2020年也常被稱為“人工智能監(jiān)管元年”。

　　據(jù)OECD的最新監(jiān)測(cè)，全球已有60余個(gè)國(guó)家提出了700余項(xiàng)人工智能政策舉措，而德勤全球（Deloitte Global）則進(jìn)一步預(yù)測(cè) ，2022年將會(huì)有大量關(guān)于更系統(tǒng)地監(jiān)管人工智能的討論。

　　人工智能治理的3.0階段

　　起于2022年，以技術(shù)驗(yàn)證為主。進(jìn)入2022年，隨著全球人工智能治理進(jìn)程的持續(xù)推進(jìn)，以及可信、負(fù)責(zé)任人工智能等相關(guān)理念的持續(xù)滲透，有關(guān)驗(yàn)證人工智能治理如何落地實(shí)施的倡議日益增多。

　　在政府側(cè)，2022年5月，新加坡政府率先推出了全球首個(gè)人工智能治理開源測(cè)試工具箱“AI.Verify”；2022年6月，西班牙政府與歐盟委員會(huì)介紹了第一個(gè)人工智能監(jiān)管沙箱的試點(diǎn)計(jì)劃。

　　在市場(chǎng)側(cè)，美國(guó)人工智能治理研究機(jī)構(gòu)RAII發(fā)布了“負(fù)責(zé)任人工智能認(rèn)證計(jì)劃”，向企業(yè)、組織、機(jī)構(gòu)等提供RAII認(rèn)證評(píng)級(jí)系統(tǒng)。

　　面向3.0階段，報(bào)告提出人工智能治理的技術(shù)驗(yàn)證應(yīng)包括兩個(gè)層面，一是通過實(shí)踐驗(yàn)證原則、政策要求和標(biāo)準(zhǔn)的可落地性，二是通過采用技術(shù)工具驗(yàn)證對(duì)各方對(duì)人工智能治理規(guī)范的落實(shí)程度。

　　報(bào)告指出，目前，人工智能治理落地實(shí)踐仍面臨許多挑戰(zhàn)，下一步，推動(dòng)人工智能治理落地應(yīng)重點(diǎn)關(guān)注以下“三組關(guān)系”：

圖2 人工智能治理落地應(yīng)重點(diǎn)關(guān)注“三組關(guān)系”

資料來源：商湯智能產(chǎn)業(yè)研究院

　　第一：理念與行動(dòng)的關(guān)系。研究發(fā)現(xiàn)，雖然超過一半的組織發(fā)布或公開認(rèn)可AI倫理的共同原則，但只有不到四分之一的組織將其付諸實(shí)施，AI治理在實(shí)踐過程中仍面臨諸多現(xiàn)實(shí)挑戰(zhàn)：

　　一是人工智能治理與現(xiàn)有組織結(jié)構(gòu)的融合問題。人工智能治理工作涉及信息安全、數(shù)據(jù)治理等與現(xiàn)有組織結(jié)構(gòu)重疊的領(lǐng)域，職責(zé)交叉、工作范圍難以厘清等問題在組織層面對(duì)推動(dòng)落地實(shí)踐形成了一定的制約；

　　二是倫理治理短期業(yè)務(wù)收益不明顯的問題。在推動(dòng)AI倫理治理工作時(shí)，業(yè)務(wù)方可能會(huì)因看不到短期收益，出現(xiàn)對(duì)倫理治理工作重視程度降低、治理工作落實(shí)缺位等情況；

　　三是倫理治理落實(shí)缺乏共識(shí)性標(biāo)準(zhǔn)的問題。

　　第二：政策與實(shí)踐的關(guān)系。政策制定者與技術(shù)開發(fā)者的視角不同、立場(chǎng)不同，對(duì)政策意涵的理解也不盡相同，在推動(dòng)人工智能治理落地的過程中，還需要將政策要求轉(zhuǎn)化為技術(shù)和業(yè)務(wù)團(tuán)隊(duì)可執(zhí)行的實(shí)踐標(biāo)準(zhǔn)。處理好政策與實(shí)踐的關(guān)系，應(yīng)重點(diǎn)考慮以下四方面：

　　一是政策制定應(yīng)考慮產(chǎn)業(yè)、技術(shù)應(yīng)用的動(dòng)態(tài)性和多樣性，為行業(yè)發(fā)展提供一定寬松的環(huán)境；

　　二是不同機(jī)構(gòu)、部門、國(guó)家應(yīng)努力推動(dòng)AI治理標(biāo)準(zhǔn)的互聯(lián)互通；

　　三是應(yīng)加強(qiáng)AI治理實(shí)踐部門在政策制定過程中的參與程度，提升政策要求的可落地性；

　　四是政策層面與產(chǎn)業(yè)層面在AI治理相關(guān)問題的定義方面應(yīng)當(dāng)尋求更多共識(shí)。

　　第三：技術(shù)與用戶的關(guān)系。目前，AI治理仍主要局限于專業(yè)討論、企業(yè)內(nèi)部治理領(lǐng)域，尚未將最終用戶納入AI治理的工作體系之中。因此，市場(chǎng)或者社會(huì)上對(duì)AI相關(guān)的治理問題還存在不少的誤解，有些用戶會(huì)將暫時(shí)的技術(shù)問題定義為長(zhǎng)期性的治理問題，例如，將新部署的AI系統(tǒng)暫時(shí)性的識(shí)別效果不佳的問題理解為算法歧視問題。

　　有研究發(fā)現(xiàn)，只有40%的消費(fèi)者相信企業(yè)在開發(fā)和部署新技術(shù)時(shí)是負(fù)責(zé)任且合乎倫理的，用戶對(duì)AI治理缺乏深度認(rèn)識(shí)。因此，在推動(dòng)AI治理落地的過程中，應(yīng)處理好技術(shù)與用戶間的關(guān)系，技術(shù)提供方應(yīng)使用用戶語(yǔ)言講解技術(shù)，AI治理機(jī)構(gòu)應(yīng)主動(dòng)清治理挑戰(zhàn)的根源、深化用戶對(duì)AI治理問題的理解、賦予用戶參與治理的能力。此外，企業(yè)還應(yīng)加大對(duì)治理技術(shù)工具的投入，提升AI治理的可驗(yàn)證性。

　　同時(shí)，報(bào)告指出，商湯科技作為AI行業(yè)的領(lǐng)先企業(yè)，高度重視人工智能倫理與治理工作，始終堅(jiān)持“平衡發(fā)展”的倫理觀，倡導(dǎo)“可持續(xù)發(fā)展、以人為本、技術(shù)可控”的倫理原則，實(shí)行嚴(yán)格的產(chǎn)品倫理風(fēng)險(xiǎn)控制機(jī)制，建設(shè)全面的AI倫理治理體系，并積極探索數(shù)據(jù)治理、算法治理相關(guān)的檢測(cè)工具和技術(shù)手段，致力于將倫理原則嵌入到產(chǎn)品設(shè)計(jì)、開發(fā)、部署的全生命周期。

　　報(bào)告內(nèi)容表示，在未來，商湯將持續(xù)推動(dòng)發(fā)展負(fù)責(zé)任且可評(píng)估的人工智能，為AI治理實(shí)踐不斷貢獻(xiàn)完善、可行的落地方案。

具體內(nèi)容如下