omniture

浪潮攜手燧原科技推出邊緣AI推理服務(wù)器 | 美通社

2020-12-24 18:21

浪潮邊緣AI推理服務(wù)器全面支持云燧i10

12月21日,浪潮邊緣計算服務(wù)器NE5260M5宣布對燧原科技全新發(fā)布的人工智能推理加速卡“云燧i10”完成兼容適配與深度優(yōu)化,可根據(jù)客戶需求支持2-4張云燧i10,為邊緣AI推理應(yīng)用如自動駕駛、智慧交通、ETC識別、精密儀器預(yù)測性維護(hù)、AI工業(yè)質(zhì)檢等場景提供強大算力支持,最高性能可達(dá)每秒70萬億次(70Tflops)。

云燧i10是一款面向云端和邊緣端數(shù)據(jù)中心的高性能推理卡,云燧i10是單槽位標(biāo)準(zhǔn)卡,支持PCIe 4.0,F(xiàn)P32算力達(dá)到17.6TFLOPS,BF16/FP16算力70.4TFLOPS。云燧i10實現(xiàn)多用戶支持,最大可支持4個設(shè)備實例,具備計算與存儲資源的獨享性,多用戶間安全隔離;單顆芯片上可同時部署不同的業(yè)務(wù)與負(fù)載,實現(xiàn)多任務(wù)并行,有效提高利用率;支持KVM、Xen等系統(tǒng)虛擬化平臺。 

浪潮邊緣計算服務(wù)器NE5260M5高度2U,深度只有430毫米,可部署在通信機房或直接懸掛在墻壁上。盡管該服務(wù)器體積小巧,但NE5260M5支持多種異構(gòu)加速卡,并且各個模塊具有良好的散熱效果,能夠很好適應(yīng)邊緣惡劣的高溫濕環(huán)境?;诟叨冗m配的軟硬件組合,浪潮NE5260M5可搭載2-4張云燧i10,最多可提供高達(dá)每秒70萬億次的單精度算力和280萬億次的半精度算力,高精度主流推理模型的性能實現(xiàn)了業(yè)界領(lǐng)先為邊緣環(huán)境提供更加靈活的加速選擇。 

得益于5G的拉動,AI正加速向邊緣滲透,未來將會有千億級的終端、無限的數(shù)據(jù)需要在邊緣側(cè)進(jìn)行人工智能推理,對邊緣側(cè)的AI算力提出了更高的要求。浪潮作為全球領(lǐng)先的計算力提供商,目前已面向工業(yè)互聯(lián)網(wǎng)、智能網(wǎng)聯(lián)汽車、城市治理、工業(yè)互聯(lián)網(wǎng)、產(chǎn)業(yè)+AI等七大邊緣計算場景打造豐富的邊緣計算產(chǎn)品形態(tài)及方案,基于云燧i10的浪潮邊緣NE5260M5,將進(jìn)一步推動AI向邊緣場景的產(chǎn)業(yè)化落地,驅(qū)動各行業(yè)的數(shù)字化、智慧化轉(zhuǎn)型。

(美通社,2020年12月23日北京)