可信AI技術(shù)和應(yīng)用進(jìn)展白皮書（2023）

來源：華院計算時間：2023-07-14 16:13:22 作者：

　　近日，華院計算與中國信息通信研究院聯(lián)合發(fā)布了國內(nèi)首份《認(rèn)知智能技術(shù)和應(yīng)用研究報告2023》（下稱“報告”），報告圍繞當(dāng)前認(rèn)知智能發(fā)展環(huán)境、技術(shù)鏈路、典型應(yīng)用場景及未來發(fā)展方向等維度，進(jìn)行了觀點分享與技術(shù)產(chǎn)業(yè)分析。

　　人工智能的飛速進(jìn)步和應(yīng)用帶來了前所未有的機遇和挑戰(zhàn)，也將可信人工智能推向產(chǎn)業(yè)發(fā)展的前臺。2021年，中國信通院《可信人工智能白皮書》首次系統(tǒng)提煉出業(yè)內(nèi)較為統(tǒng)一的可信AI特征要素在安全魯棒、隱私保護(hù)、公平性、可解釋的大框架下，可信AI正在金融、保險、制造、醫(yī)療等領(lǐng)域加速落地。伴隨人工智能技術(shù)底座不斷夯實和大模型、AIGC等的爆發(fā)式增長，人工智能邁出了走向通用人工智能的關(guān)鍵一步，2023年4月中共中央政治局會議強調(diào)“重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風(fēng)險”，可信AI成為新階段平衡創(chuàng)新與風(fēng)險的重要技術(shù)手段。

　　本報告基于統(tǒng)一的可信AI認(rèn)知維度，梳理總結(jié)可信AI技術(shù)和應(yīng)用發(fā)展現(xiàn)狀，提煉面向新階段大模型和AIGC引發(fā)的新需求，形成以技術(shù)為保障的可信AI評估體系和工具。

　　主要觀點如下

　　一是歸納了可信AI發(fā)展變遷的產(chǎn)業(yè)技術(shù)背景，即近期算法、算力、數(shù)據(jù)基礎(chǔ)不斷夯實，人工智能固有技術(shù)風(fēng)險持續(xù)放大，可信AI技術(shù)成為AI領(lǐng)域關(guān)鍵底層能力，各國也正在圍繞生成式人工智能監(jiān)管、人工智能倫理等推動治理。

　　二是梳理了現(xiàn)階段可信AI四大技術(shù)方向發(fā)展情況?？尚臕I已在行業(yè)領(lǐng)域落實成具體產(chǎn)品和實踐案例，總體上正從創(chuàng)新整合解決方案階段邁向形成可信系統(tǒng)機制的階段，完整的實踐鏈路、健全的標(biāo)準(zhǔn)和系統(tǒng)機制將逐步落地。

　　三是概括了面向大模型和AIGC的可信AI探索，即大模型時代下可能面臨的安全可信挑戰(zhàn)，主要包括大模型的生成式攻擊和防御、大模型自身的安全風(fēng)險和隱患、大模型的可解釋性和公平性問題等三大類。

　　四是構(gòu)建了以技術(shù)為保障的可信AI評估體系，面向產(chǎn)業(yè)發(fā)展需求，構(gòu)建了包括隱私保護(hù)檢測、可解釋性檢測、公平性檢測和魯棒性檢測的可信AI檢測指標(biāo)體系，并提出了具體的評估內(nèi)容、指標(biāo)和方式，并可進(jìn)一步賦能大模型與AIGC發(fā)展。

　　具體內(nèi)容如下：