浪潮攜手燧原科技推出超強(qiáng)邊緣AI推理服務(wù)器

北京2020年12月23日 /美通社/ -- 12月21日，浪潮邊緣計算服務(wù)器NE5260M5宣布對燧原科技全新發(fā)布的人工智能推理加速卡“云燧i10”完成兼容適配與深度優(yōu)化，可根據(jù)客戶需求支持2-4張云燧i10，為邊緣AI推理應(yīng)用如自動駕駛、智慧交通、ETC識別、精密儀器預(yù)測性維護(hù)、AI工業(yè)質(zhì)檢等場景提供強(qiáng)大算力支持，最高性能可達(dá)每秒70萬億次（70Tflops)。

云燧i10是一款面向云端和邊緣端數(shù)據(jù)中心的高性能推理卡，云燧i10是單槽位標(biāo)準(zhǔn)卡，支持PCIe 4.0，F(xiàn)P32算力達(dá)到17.6TFLOPS，BF16/FP16算力70.4TFLOPS。云燧i10實(shí)現(xiàn)多用戶支持，最大可支持4個設(shè)備實(shí)例，具備計算與存儲資源的獨(dú)享性，多用戶間安全隔離；單顆芯片上可同時部署不同的業(yè)務(wù)與負(fù)載，實(shí)現(xiàn)多任務(wù)并行，有效提高利用率；支持KVM、Xen等系統(tǒng)虛擬化平臺。

浪潮邊緣計算服務(wù)器NE5260M5高度2U，深度只有430毫米，可部署在通信機(jī)房或直接懸掛在墻壁上。盡管該服務(wù)器體積小巧，但NE5260M5支持多種異構(gòu)加速卡，并且各個模塊具有良好的散熱效果，能夠很好適應(yīng)邊緣惡劣的高溫濕環(huán)境。基于高度適配的軟硬件組合，浪潮NE5260M5可搭載2-4張云燧i10，最多可提供高達(dá)每秒70萬億次的單精度算力和280萬億次的半精度算力，高精度主流推理模型的性能實(shí)現(xiàn)了業(yè)界領(lǐng)先為邊緣環(huán)境提供更加靈活的加速選擇。

• 在計算機(jī)視覺領(lǐng)域中，可實(shí)時高速圖像視覺處理，廣泛應(yīng)用于工廠AI質(zhì)檢、場景識別、智能交通等應(yīng)用，在圖像識別場景中，基于ImageNet圖像數(shù)據(jù)集，超過75.9%準(zhǔn)確率，推斷性能超過3000FPS，在業(yè)界公認(rèn)的基準(zhǔn)測試模型ResNet-50上，性能是一般產(chǎn)品的1.7倍。在視頻增強(qiáng)場景中，可實(shí)時進(jìn)行視頻分辨率增強(qiáng)，服務(wù)器處理性能可達(dá)240FPS，性能達(dá)到業(yè)界一般產(chǎn)品的2倍。
• 在自然語言處理領(lǐng)域中，可應(yīng)用于文本分類、輿情監(jiān)管、智能客服等場景，在業(yè)界公認(rèn)的測試模型Bert-Base上，同時兼顧性能和精度，在FP32高精度下性能是業(yè)界一般產(chǎn)品的1.5倍。
• 在電商、短視頻推薦場景中，可實(shí)現(xiàn)精準(zhǔn)、高效、實(shí)時的目標(biāo)內(nèi)容投放，在業(yè)界流行的主流推薦模型xDeepFM上，性能是業(yè)界一般產(chǎn)品的2倍，因為采用FP32高精度的推理，推薦內(nèi)容更準(zhǔn)確。

得益于5G的拉動，AI正加速向邊緣滲透，未來將會有千億級的終端、無限的數(shù)據(jù)需要在邊緣側(cè)進(jìn)行人工智能推理，對邊緣側(cè)的AI算力提出了更高的要求。浪潮作為全球領(lǐng)先的計算力提供商，目前已面向工業(yè)互聯(lián)網(wǎng)、智能網(wǎng)聯(lián)汽車、城市治理、工業(yè)互聯(lián)網(wǎng)、產(chǎn)業(yè)+AI等七大邊緣計算場景打造豐富的邊緣計算產(chǎn)品形態(tài)及方案，基于云燧i10的浪潮邊緣NE5260M5，將進(jìn)一步推動AI向邊緣場景的產(chǎn)業(yè)化落地，驅(qū)動各行業(yè)的數(shù)字化、智慧化轉(zhuǎn)型。