【環(huán)球新要聞】優(yōu)化多個計算環(huán)節(jié)，曙光AI算力助“紫東太初”大模型訓練

(資料圖)

近來，作為國內(nèi)知名三模態(tài)AI大模型——“紫東太初”備受關注。在該大模型的誕生過程中，曙光全國一體化計算服務平臺，為其提供了AI算力，并通過優(yōu)化存儲、通訊等環(huán)節(jié)，保證其訓練的高效性。

“紫東太初”是三模態(tài)大模型，以圖、文、音（視覺、文本、語音）三模態(tài)預訓練模型為核心。針對“紫東太初”平臺特性，除提供了龐大AI算力外，為保證其高效訓練，曙光工程師優(yōu)化了存儲、通訊、計算隊列等多個計算環(huán)節(jié)，并經(jīng)過節(jié)點計算、通訊等多種壓力測試。

為降低AI大模型的訓練與推理成本，曙光早在2018年就推出了”計算服務平臺”，該平臺讓全國用戶無需投入大量成本購買硬件設施，就能完成AI大模型的訓練與推理工作。

除能夠在線提供Tensorflow、PyTorch、PaddlePaddle等主流AI框架外，曙光實現(xiàn)在數(shù)千節(jié)點規(guī)模時仍能滿足高效訓練目標，與AI企業(yè)形成了基于AI模型的聯(lián)合解決方案，攻克類腦智能、基因技術等難題。

關鍵詞：