4月14日消息,今日,騰訊云發(fā)布面向大模型訓練的新一代HCC(High-Performance Computing Cluster)高性能計算集群。實測顯示,該集群的算力性能較前代提升高達3倍,據(jù)稱是目前國內(nèi)性能最強的大模型計算集群。
該集群采用最新一代騰訊云星星海自研服務(wù)器,搭載英偉達最新代次H800 Tensor Core GPU,屬于國內(nèi)首發(fā)。服務(wù)器之間采用業(yè)界最高的3.2T超高互聯(lián)帶寬,可以為大模型訓練、自動駕駛、科學計算等提供高性能、高帶寬和低延遲的集群算力。
2022年10月,騰訊完成首個萬億參數(shù)AI大模型訓練,在同等數(shù)據(jù)集下將混元NLP大模型的訓練時間由50天縮短到11天。如果基于新一代集群,訓練時間將進一步縮短至4天。
{{item.content}}