來(lái)源:中國(guó)電子報(bào) 時(shí)間:2024-10-17 16:54:35 作者:
日前,在上海自貿(mào)區(qū)臨港新片區(qū),商湯智算中心通過(guò)理論算力、有效算力、算力能效、業(yè)務(wù)模型場(chǎng)景支持能力、加分項(xiàng)等5個(gè)維度的技術(shù)評(píng)測(cè),獲得5A級(jí)智算中心算力性能認(rèn)證,成為國(guó)內(nèi)智算中心建設(shè)的“樣板間”。
據(jù)悉,該項(xiàng)目一期投資56億元,主要建設(shè)園區(qū)智算大樓與科研行政大樓,用于AI智算中心平臺(tái)硬件搭建、平臺(tái)軟件、平臺(tái)管理系統(tǒng)和大模型應(yīng)用等多領(lǐng)域研發(fā)。項(xiàng)目占地87畝,整體規(guī)劃建筑面積13萬(wàn)平方米,一期已建成7萬(wàn)平方米。
目前,商湯大裝置管理的算力已實(shí)現(xiàn)全國(guó)聯(lián)網(wǎng)的統(tǒng)一調(diào)度,在上海、深圳、廣州、福州、濟(jì)南、重慶等地都拓展了新的計(jì)算節(jié)點(diǎn),截至今年7月,總算力規(guī)模達(dá)到20000PFLOPS,已有5.4萬(wàn)塊GPU,其中上海臨港智算中心的算力為14000PFLOPS,遠(yuǎn)遠(yuǎn)超出立項(xiàng)規(guī)劃的3740PFLOPS算力總量。
經(jīng)過(guò)持續(xù)擴(kuò)容,商湯智算中心的算力可支撐超過(guò)20個(gè)千億參數(shù)超大模型同時(shí)訓(xùn)練,并支持萬(wàn)億參數(shù)大模型的全生命周期生成。
在硬件技術(shù)上,智算中心實(shí)現(xiàn)了萬(wàn)卡的超大集群互聯(lián),并保持90%的加速效率。在訓(xùn)練穩(wěn)定性上,具備超30天不間斷訓(xùn)練AI大模型的能力;出現(xiàn)訓(xùn)練間斷時(shí),診斷恢復(fù)時(shí)長(zhǎng)已縮短至半小時(shí)。
在軟件技術(shù)上,商湯大裝置與“日日新”大模型體系的集合,重構(gòu)了算法的供給模式。通過(guò)提供“日日新”基礎(chǔ)模型,各行各業(yè)的用戶只需在此基礎(chǔ)上進(jìn)行微調(diào)或增量訓(xùn)練,就可以高效率地開發(fā)出符合自身需求的行業(yè)模型。這種服務(wù)實(shí)現(xiàn)了算法的基礎(chǔ)設(shè)施化,與算力基礎(chǔ)設(shè)施的服務(wù)配套,讓國(guó)內(nèi)各種行業(yè)大模型的開發(fā)更為高效、便捷。
責(zé)任編輯:張薇