北京2021年12月3日 /美通社/ -- 美國東部時間12月1日,國際權(quán)威AI基準測試MLPerf?公布最新一期訓練(Training)榜單V1.1。浪潮信息提交了AI服務(wù)器所有8項單機測試的固定任務(wù)(Closed Division)成績,并斬獲其中7項冠軍。
MLPerf?是影響力最廣的國際AI性能基準評測,本次測試吸引谷歌、微軟云、英偉達、浪潮信息、百度、戴爾、聯(lián)想等14家公司及科研機構(gòu)參與,共提交180項固定任務(wù)成績,6項開放任務(wù)成績。固定任務(wù)要求參賽各方使用與參考模型等價的模型和限定的優(yōu)化器,對于實際用戶評測AI計算系統(tǒng)性能具備很強的參考意義,也一直是MLPerf?中角逐最激烈及主流廠商最關(guān)注的領(lǐng)域。
本次性能基準評測涵蓋了8類極具代表性的機器學習任務(wù),分別為圖像分類(ResNet)、醫(yī)學影像分割(U-Net3D)、目標物體檢測(SSD)、目標物體檢測(Mask R-CNN)、語音識別(RNNT)、自然語言理解(BERT)、智能推薦(DLRM)以及強化學習(MiniGo)。
浪潮AI服務(wù)器在單機系統(tǒng)測試的全部8項固定任務(wù)中,獲得7項冠軍。其中,AI服務(wù)器NF5688M6獲得醫(yī)學影像分割、目標物體檢測(Mask R-CNN)、自然語言理解、智能推薦4項冠軍;AI服務(wù)器NF5488A5獲得圖像分類、目標物體檢測(SSD)、語音識別3項冠軍。
全棧AI能力 引領(lǐng)AI訓練速度突破
憑借卓異的軟硬件系統(tǒng)優(yōu)化能力,浪潮AI服務(wù)器將MLPerf?訓練基準的單機效率進一步提升至新的高度。相比半年前的MLPerf? AI訓練榜單V1.0,浪潮AI服務(wù)器將醫(yī)學影像識別、語音識別、智能推薦和自然語言處理任務(wù)的單機AI訓練速度提升18%、14%、11%和8%。
MLPerf?作為國際最權(quán)威的AI性能基準測試,不斷刷新業(yè)內(nèi)的AI訓練速度。目前,浪潮信息是MLPerf?基準測試中醫(yī)學影像分割、目標物體檢測(Mask R-CNN)、自然語言理解、智能推薦、圖像分類、目標物體檢測(SSD)、語音識別7項AI任務(wù)的單機最快訓練速度保持者。浪潮AI服務(wù)器在圖像分類訓練中每秒可處理27400張圖片、在目標物體檢測訓練中每秒可處理12600張圖片、在語音識別訓練中每秒可處理8000段語音,引領(lǐng)全球AI訓練速度突破,凸顯出頂級AI服務(wù)器在AI模型訓練效率上的巨大價值。
浪潮AI服務(wù)器在MLPerf?基準評測中的出色表現(xiàn),得益于在AI計算系統(tǒng)創(chuàng)新上卓越的系統(tǒng)設(shè)計能力和全棧優(yōu)化能力。在硬件層面,針對AI訓練中常見的密集IO傳輸瓶頸,浪潮AI服務(wù)器以領(lǐng)先設(shè)計大幅降低通信延遲,極大提升了AI訓練效率;同時,針對高負載多GPU協(xié)同任務(wù)調(diào)度,對NUMA節(jié)點與GPU之間的數(shù)據(jù)傳輸進行全面優(yōu)化和深度調(diào)校,確保訓練任務(wù)中的數(shù)據(jù)IO無阻塞;在散熱層面,針對目前業(yè)界功率最高的A100-SXM-80GB(500W) GPU,浪潮率先開發(fā)的先進冷板液冷系統(tǒng),確保GPU在全功率甚負載下依然穩(wěn)定工作,將AI計算系統(tǒng)的性能發(fā)揮到極致。
MLPerf? 2021年度收官 浪潮信息共獲44項第一
MLCommons每年組織2次MLPerf? 推理性能測試和2次MLPerf? 訓練性能測試。本次成績公布意味著MLPerf? 2021年度4次性能測試正式收官。浪潮AI服務(wù)器共斬獲44項第一,名列MLPerf?2021年度冠軍榜首。
2021年,浪潮AI服務(wù)器在MLPerf?數(shù)據(jù)中心AI推理場景的總32項任務(wù)中斬獲17項冠軍,在邊緣AI推理場景的總31項任務(wù)中斬獲16項冠軍,從云到邊全面領(lǐng)先;在單機AI訓練場景的16項任務(wù)中浪潮AI服務(wù)器共斬獲11項冠軍。
2021年,浪潮AI服務(wù)器NF5488A5、NF5688M6以及邊緣服務(wù)器NE5260M5參加到MLPerf?競賽中,各斬獲18項、15項及11項冠軍。
NF5488A5是全球首批上市的A100服務(wù)器,在4U空間支持8顆第三代NVLink互聯(lián)的A100 GPU和2顆AMD Milan CPU,同時支持液冷和風冷散熱技術(shù)。NF5688M6是面向大規(guī)模數(shù)據(jù)中心優(yōu)化設(shè)計的具備極致擴展能力的AI服務(wù)器,支持8顆A100 GPU和兩顆Intel Ice Lake CPU,支持多達13張PCIe Gen4的IO擴展卡。NE5260M5通過極致優(yōu)化的信號和電源等系統(tǒng)設(shè)計,兼容高性能CPU和多種AI加速卡,通過減震降噪優(yōu)化和嚴苛的可靠性測試,機箱深度430mm較普通服務(wù)器縮短近二分之一,滿足空間受限的邊緣計算場景部署需求。
浪潮信息是全球領(lǐng)先的AI計算廠商,AI服務(wù)器市場份額全球第一,中國市場份額已連續(xù)五年穩(wěn)居第一。浪潮信息致力于AI計算平臺、資源平臺和算法平臺的研發(fā)創(chuàng)新,并通過元腦生態(tài)與AI領(lǐng)先企業(yè)共同推進AI產(chǎn)業(yè)化和產(chǎn)業(yè)AI化進程。