字節(jié)跳動首次公布大模型進(jìn)展

來源：數(shù)據(jù)觀綜合 時間：2023-06-29 16:09:19 作者：

　　6月28日下午，字節(jié)跳動公布了大模型業(yè)務(wù)最新進(jìn)展。字節(jié)跳動旗下的火山引擎召開發(fā)布會，首次正式公布在大模型領(lǐng)域的研發(fā)布局和合作進(jìn)展，并發(fā)布大模型服務(wù)平臺“火山方舟”，提供模型訓(xùn)練、推理、評測、精調(diào)等全方位功能與服務(wù)。

　　據(jù)介紹，“火山方舟”內(nèi)集成了百川智能、出門問問、復(fù)旦大學(xué)MOSS、IDEA研究院、瀾舟科技、MiniMax、智譜AI等多家AI科技公司及科研院所的大模型，目前正啟動邀測。

　　推動大模型形成生產(chǎn)力

　　此前，百度、阿里、騰訊、商湯、360 等國內(nèi)大廠已經(jīng)相繼宣布入局，大部分的做法都是發(fā)布一個通用大模型或者數(shù)個行業(yè)大模型底座，行業(yè)客戶可以基于這些基礎(chǔ)模型和自身擁有的行業(yè)數(shù)據(jù)精調(diào)，打造一個服務(wù)自身業(yè)務(wù)的 AI 應(yīng)用。

　　值得注意的是，但字節(jié)跳動的切入方式與其他大廠有明顯的不同，其公布的是大模型B端業(yè)務(wù)，而C端自研大模型仍在保密中。

　　“火山方舟”由字節(jié)跳動旗下火山引擎搭建，提供了一個大模型服務(wù)平臺，供開發(fā)者和企業(yè)使用。其運營模式是，在一個平臺內(nèi)提供多個模型，企業(yè)可同步試用多個大模型，選用更適合自身業(yè)務(wù)需要的模型組合。

　　對模型提供方，通過 “火山方舟”能夠以更低的成本觸達(dá)海量客戶，更小的代價在ToB市場實現(xiàn)規(guī)模化；嚴(yán)謹(jǐn)?shù)陌踩バ艡C制，兼顧靈活性與安全性；源源不斷的算力，形成最具競爭力的性價比。對模型使用者來說，通過 “火山方舟”可以便捷地接觸到眾多高質(zhì)量的基座模型，一站式對接多家模型提供商，為不同場景選擇最合適的模型。

　　具體來看，“火山方舟”基于大模型應(yīng)用的工作習(xí)慣，打造了多個核心部分?！澳Ｐ蛷V場”會有不同的模型供應(yīng)商提供不同版本和尺寸的模型，用戶可以直接與模型交互，調(diào)用推理API，接入生產(chǎn)環(huán)境；“模型評估”是“火山方舟”重點打造的環(huán)節(jié)入口，用戶可以基于業(yè)務(wù)需求設(shè)計一套可量化的評估指標(biāo)，在模型評估后挑選最合適的模型；“模型精調(diào)” 可以幫助客戶利用自有數(shù)據(jù)進(jìn)行持續(xù)訓(xùn)練，建設(shè)和積累自己的精調(diào)數(shù)據(jù)集，降低推理成本。

　　目前，抖音集團(tuán)內(nèi)部已有十多個業(yè)務(wù)團(tuán)隊試用“火山方舟”，在代碼糾錯等研發(fā)提效場景，文本分類、總結(jié)摘要等知識管理場景，以及數(shù)據(jù)標(biāo)注、歸因分析等方面探索，利用大模型能力促進(jìn)降本增效。這些內(nèi)部實踐在快速打磨“火山方舟”，推動平臺能力的進(jìn)一步完善。

　　此外，為促進(jìn)模型提供方和模型使用方的互信，“火山方舟”上線了基于安全沙箱的大模型安全互信計算方案，利用計算隔離、存儲隔離、網(wǎng)絡(luò)隔離、流量審計等方式，實現(xiàn)了模型的機密性、完整性和可用性保證，適用于對訓(xùn)練和推理延時要求較低的客戶。

　　群雄逐鹿大模型

　　自ChatGPT去年末在全球掀起巨大轟動以來，大模型無疑已成為全球最熱鬧的賽道之一。

　　根據(jù)中國科學(xué)技術(shù)信息研究所發(fā)布的《中國人工智能大模型地圖研究報告》指出，近年來在自然語言處理、機器視覺和多模態(tài)等領(lǐng)域，國內(nèi)已經(jīng)涌現(xiàn)出多個具有行業(yè)影響力的預(yù)訓(xùn)練大模型，10億級參數(shù)規(guī)模以上大模型數(shù)量已達(dá)79個。

　　由于行業(yè)內(nèi)初創(chuàng)企業(yè)基本還處在起步階段，而頭部廠商大都在過往幾年里或多或少對大模型研發(fā)有所涉獵，在算力、人才、資金等層面都取得了一定的先發(fā)優(yōu)勢。這意味著當(dāng)前百舸爭流的熱鬧局面，實質(zhì)上還是幾大頭部廠商的對壘。

　　從大模型的布局體系來看，科技大廠在算力層、平臺層、模型層、應(yīng)用層進(jìn)行了四位一體的全面布局。百度、阿里、華為三家均從芯片到應(yīng)用進(jìn)行自主研發(fā)的全面布局，如百度的“昆侖芯+飛槳平臺+文心大模型+行業(yè)應(yīng)用”、阿里的“含光800芯片+M6-OFA底座+通義大模型+行業(yè)應(yīng)用”、華為的“昇騰芯片+MindSpore框架+盤古大模型+行業(yè)應(yīng)用”。垂直行業(yè)科技企業(yè)和科研院校，主要以研發(fā)大模型算法及細(xì)分領(lǐng)域應(yīng)用為主，自有算力相對薄弱，很少涉及芯片領(lǐng)域自主研發(fā)。

　　從大模型參數(shù)量看，科技大廠的參數(shù)量遠(yuǎn)大于科研院所?？萍即髲S的大模型參數(shù)量較大：阿里通義千問大模型參數(shù)在10萬億級以上、騰訊混元大模型和華為盤古大模型參數(shù)量均在萬億級以上、百度文心一言大模型參數(shù)量在2千億級以上、京東言犀大模型的參數(shù)量為千億級；垂直行業(yè)科技企業(yè)已經(jīng)上線的參數(shù)量普遍在千億級以上；而科研院校大模型的參數(shù)量在千億級及以下。

　　從大模型應(yīng)用方向看，大部分企業(yè)前期以內(nèi)部應(yīng)用為主，后續(xù)主要向B端企業(yè)拓展服務(wù)，預(yù)計少數(shù)企業(yè)將在C端市場形成規(guī)模。目前，百度文心大模型、華為盤古大模型、中國科學(xué)院紫東太初大模型均在B端垂類市場積累了標(biāo)桿應(yīng)用案例，騰訊混元大模型、阿里通義大模型則更多聚焦公司自身業(yè)務(wù)。而在C端市場應(yīng)用方面，百度文心一言、阿里通義千問、騰訊混元助手三類大模型最有可能向此方向拓展，但目前只有百度文心一言大模型正在進(jìn)行友好客戶測試，阿里通義千問大模型則計劃在今年9月份進(jìn)行公測，騰訊混元助手大模型則處于計劃開發(fā)狀態(tài)。

　　從大模型業(yè)界評估看，國內(nèi)大模型與GPT-4有較大差距，但科技大廠具備追趕實力。目前國內(nèi)大模型處于百花齊放的狀態(tài)，但業(yè)界普遍認(rèn)為，第一梯隊當(dāng)屬百度、阿里巴巴、騰訊、華為四家。綜合實力方面，四家企業(yè)在大模型研發(fā)投入、技術(shù)能力和人才團(tuán)隊實力較強；商用推進(jìn)方面，四家企業(yè)均依托現(xiàn)有業(yè)務(wù)領(lǐng)域更容易形成大模型應(yīng)用規(guī)模效應(yīng)。

　　AI大模型競爭，國內(nèi)廠商哪家強？

　　伴隨生成式AI等基于大模型發(fā)展的各類應(yīng)用爆發(fā)，大模型帶來的價值進(jìn)一步升級到人類生產(chǎn)力工具的顛覆式革新，逐漸拉開了通用人工智能的發(fā)展序幕。近日，弗若斯特沙利文發(fā)布的《AI大模型市場研究報告（2023）》對中國市場提供大模型產(chǎn)品服務(wù)的廠商進(jìn)行了分析和評估。

　　報告指出，AI大模型的高速發(fā)展離不開底層技術(shù)支持和應(yīng)用場景迭代。大模型作為AGI時代的曙光，相關(guān)廠商也將迎來廣闊的發(fā)展空間。報告從發(fā)展現(xiàn)狀、驅(qū)動因素等推演了AI大模型廠商競爭與發(fā)展的幾大關(guān)鍵點。其中，在競爭格局漸趨明晰的過程中，相關(guān)廠商需跨越技術(shù)、人才、資金等壁壘，在產(chǎn)品技術(shù)能力、戰(zhàn)略愿景能力、生態(tài)開放能力三大維度上展開角逐。通過遴選，報告選擇了5家大模型廠商，分別為商湯、百度、阿里巴巴、華為、騰訊，評價模型包含15個一級指標(biāo)、56個二級指標(biāo)，對廠商大模型的各個能力進(jìn)行評估。

　　報告認(rèn)為，中國大模型廠商的成功因素主要包括：全棧大模型訓(xùn)練與研發(fā)能力、業(yè)務(wù)場景落地經(jīng)驗、AI安全治理舉措以及生態(tài)開放性四個方面，其中全棧大模型訓(xùn)練與研發(fā)能力還包括數(shù)據(jù)管理經(jīng)驗、AI基礎(chǔ)設(shè)施建設(shè)與運營以及大模型系統(tǒng)和算法設(shè)計三個部分。這些成功因素分別體現(xiàn)著大模型廠商的產(chǎn)品技術(shù)能力、戰(zhàn)略愿景能力、生態(tài)開放能力三個維度。

　　報告指出，在通往AGI時代的旅程上，大模型和人類反饋的強化學(xué)習(xí)（RLHF）的結(jié)合，不僅重構(gòu)了AI開發(fā)范式，未來軟件80%的價值將由AI大模型提供，剩余20%會由提示工程和傳統(tǒng)業(yè)務(wù)開發(fā)組成，開發(fā)者的生產(chǎn)力將得到極大釋放；與此同時，AI的發(fā)展也將由之前單向發(fā)展的數(shù)據(jù)飛輪升級到不斷迭代進(jìn)化的智慧飛輪，更高效地解決海量的開放式任務(wù)。

責(zé)任編輯：張薇