生成式AI SuperCluster與NVIDIA AI Enterprise、NIM微服務(wù)整合,并通過大規(guī)模可擴展的計算單元,提供立即性投資報酬率效益和更低的AI運行成本,進而簡化AI以利快速部署
加州圣何塞和臺北2024年6月7日 /美通社/ -- Supermicro, Inc.(NASDAQ:SMCI)作為AI、云端、儲存和 5G/邊緣領(lǐng)域的全方位IT解決方案制造商,推出可立即部署式液冷型AI數(shù)據(jù)中心。此數(shù)據(jù)中心專為云原生解決方案而設(shè)計,通過SuperCluster加速各界企業(yè)對生成式AI的運用,并針對NVIDIA AI Enterprise軟件平臺優(yōu)化,適用于生成式AI的開發(fā)與部署。通過Supermicro的4U液冷技術(shù),NVIDIA近期推出的Blackwell GPU能在單一GPU上充分發(fā)揮20 PetaFLOPS的AI性能,且與較早的GPU相比,能提供4倍的AI訓(xùn)練性能與30倍的推理性能,并節(jié)省額外成本。配合此率先上市的策略,Supermicro近期推出基于NVIDIA Blackwell架構(gòu)的完善產(chǎn)品系列,支持新型NVIDIA HGXTM B100、B200和GB200 Grace Blackwell Superchip。
Supermicro總裁兼首席執(zhí)行官梁見后表示:"Supermicro 在打造與部署具有機柜級液冷技術(shù)的AI解決方案方面持續(xù)領(lǐng)先業(yè)界。數(shù)據(jù)中心的液冷配置設(shè)計可幾近免費,并通過能持續(xù)降低用電量的優(yōu)勢為客戶提供額外價值。我們的解決方案針對NVIDIA AI Enterprise軟件優(yōu)化,滿足各行各業(yè)的客戶需求,并提供世界規(guī)模級效率的全球制造產(chǎn)能。因此我們得以縮短交付時間,更快提供搭配NVIDIA HGX H100和H200,以及即將推出的B100、B200和GB200解決方案的可立即使用型液冷或氣冷計算叢集。從液冷板到CDU乃至冷卻塔,我們的機柜級全方位液冷解決方案最大可以降低數(shù)據(jù)中心40%的持續(xù)用電量。"
請訪問www.supermicro.com/ai以了解更多信息。
在臺北國際計算機展(COMPUTEX 2024)上,Supermicro展示了即將推出,并針對NVIDIA Blackwell GPU優(yōu)化的系統(tǒng),包括基于NVIDIA HGX B200的10U氣冷系統(tǒng)和4U液冷系統(tǒng)。此外,Supermicro也將提供8U氣冷型NVIDIA HGX B100系統(tǒng)、NVIDIA GB200 NVL72機柜(具有72個通過NVIDIA NVLink 交換器互連的GPU)與新型 NVIDIA MGX?系統(tǒng)(支持NVIDIA H200 NVL PCIe GPU與最新發(fā)布的NVIDIA GB200 NVL2架構(gòu))。
NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛表示:"生成式AI正在推動整個計算堆棧的重置,新的數(shù)據(jù)中心將會通過GPU進行計算加速,并針對AI優(yōu)化。Supermicro設(shè)計了頂尖的NVIDIA加速計算和網(wǎng)絡(luò)解決方案,使價值數(shù)兆美元的全球數(shù)據(jù)中心能夠針對AI時代優(yōu)化。"
隨著大語言模型(Large Language Model,LLM)的快速發(fā)展以及Meta的Llama-3和Mistral的Mixtral 8x22B等開源模型不斷推出,企業(yè)更容易取得并使用當今最先進的AI模型。簡化AI基礎(chǔ)設(shè)施并以最具成本效益的方式提供存取能力,對于支持目前的急速AI變革至關(guān)重要。Supermicro云原生AI SuperCluster使實時存取的云端便利性和可移植性之間得以連結(jié),并通過NVIDIA AI Enterprise讓任何規(guī)模的AI項目從評估測試階段無縫順暢地進行到實際作業(yè)階段。這提供了能在任何地方運行并安全管理數(shù)據(jù)的靈活性,包括自架系統(tǒng)或本地大型數(shù)據(jù)中心。
隨著各界企業(yè)急速進行生成式AI的實驗性使用,Supermicro與NVIDIA密切合作,確保無縫且靈活地從AI應(yīng)用的實驗和評估試行推動至作業(yè)部署和大規(guī)模數(shù)據(jù)中心AI。此順暢流程是借由NVIDIA AI Enterprise軟件平臺的機柜、叢集級優(yōu)化而實現(xiàn),能使從初步探索至可擴展AI落地的過程更流暢無阻。
托管服務(wù)涉及基礎(chǔ)架構(gòu)的選擇、數(shù)據(jù)共享和生成式AI策略控管。NVIDIA NIM微服務(wù)作為 NVIDIA AI Enterprise的一部分,可在無缺陷情況下提供托管生成式AI和開源部署優(yōu)勢。其多功能推理運行環(huán)境通過微服務(wù),可加速從開源模型到NVIDIA基礎(chǔ)模型等各類型生成式AI的部署。此外,NVIDIA NeMoTM可實現(xiàn)通過數(shù)據(jù)管理、進階自定義和檢索增強生成(Retrieval-Augmented Generation,RAG)的客制模型開發(fā),以實現(xiàn)企業(yè)級解決方案。與搭配NVIDIA AI Enterprise的Supermicro SuperCluster整合后,NVIDIA NIM能為可擴展、加速型生成式AI作業(yè)的部署提供最快途徑。
Supermicro目前的生成式AI SuperCluster產(chǎn)品包括:
Supermicro的SuperCluster支持NVIDIA AI Enterprise,其中包括NVIDIA NIM微服務(wù)和NVIDIA NeMo平臺,能實現(xiàn)端對端生成式AI客制,并針對NVIDIA Quantum-2 InfiniBand以及具有每GPU 400Gb/s網(wǎng)速的新型NVIDIA Spectrum-X以太網(wǎng)絡(luò)平臺優(yōu)化,可擴展到具有數(shù)萬個GPU的大型計算叢集。
Supermicro即將推出的SuperCluster產(chǎn)品包括:
Supermicro的SuperCluster解決方案針對LLM訓(xùn)練、深度學(xué)習(xí)以及大規(guī)模與大批量推理優(yōu)化。Supermicro的L11和L12驗證測試及現(xiàn)場部署服務(wù)可為客戶提供無縫順暢體驗??蛻羰盏郊床寮从玫目蓴U充單元后即可在數(shù)據(jù)中心輕松部署,進而更快取得效益。
關(guān)于Super Micro Computer, Inc.
Supermicro(納斯達克股票代碼:SMCI)是應(yīng)用優(yōu)化全方位IT解決方案的全球領(lǐng)導(dǎo)企業(yè)。Supermicro的成立據(jù)點及營運中心位于美國加州圣何塞,致力為企業(yè)、云端、AI和5G電信/邊緣IT基礎(chǔ)架構(gòu)提供領(lǐng)先市場的創(chuàng)新技術(shù)。我們是全方位IT解決方案制造商,提供服務(wù)器、AI、儲存、物聯(lián)網(wǎng)、交換器系統(tǒng)、軟件及支持服務(wù)。Supermicro的主板、電源和機殼設(shè)計專業(yè)技術(shù)進一步優(yōu)化我們的開發(fā)與生產(chǎn),為我們的全球客戶實現(xiàn)從云端到邊緣的下一代創(chuàng)新。我們的產(chǎn)品皆由企業(yè)內(nèi)部團隊設(shè)計及制造(在美國、亞洲及荷蘭),經(jīng)由產(chǎn)品設(shè)計優(yōu)化降低總體擁有成本(TCO),并通過綠色計算技術(shù)減少環(huán)境沖擊,在全球化營運下達到極佳的制造規(guī)模與效率。屢獲殊榮的Server Building Block Solutions®產(chǎn)品組合使客戶能從極多元系統(tǒng)產(chǎn)品線內(nèi)選擇合適的機型,進而將工作負載與應(yīng)用達到最佳性能。多元系統(tǒng)產(chǎn)品線由高度彈性、可重復(fù)使用的建構(gòu)組件打造而成,而這些組件支持各種硬件外形規(guī)格、處理器、內(nèi)存、GPU、儲存、網(wǎng)絡(luò)、功耗和散熱解決方案(空調(diào)、免費自然氣冷或液冷)。
Supermicro、Server Building Block Solutions和We Keep IT Green皆為Super Micro Computer, Inc. 的商標和/或注冊商標。
所有其他品牌、名稱和商標皆為其各自所有者之財產(chǎn)。