 |
Supermicro 支持 AMD Instinct MI300 系列加速器，從而擴(kuò)展人工智能和 GPU 機(jī)架規(guī)模解決方案
由 AMD Instinct? MI300X 加速器提供支持的全新 8-GPU 系統(tǒng)現(xiàn)已推出，具備突破性的人工智能和 HPC 性能，可用于大規(guī)模人工智能培訓(xùn)和 LLM 部署
加利福尼亞州圣何塞2023年12月8日 /美通社/ -- Supermicro, Inc.（納斯達(dá)克股票代碼：SMCI）是一家為人工智能、云技術(shù)、存儲和 5G/邊緣提供全面 IT 解決方案的制造商，宣布推出三款基于 AMD 的全新 H13 代 GPU 服務(wù)器產(chǎn)品，這些經(jīng)過優(yōu)化的服務(wù)器，具備先進(jìn)性能且高效，并由全新的 AMD Instinct MI300 系列加速器提供支持。Supermicro 強(qiáng)大的機(jī)架規(guī)模解決方案配置 8-GPU 服務(wù)器和 AMD Instinct MI300X OAM，是大型模型訓(xùn)練的理想選擇。
現(xiàn)提供配備 AMD Instinct MI300A 加速處理單元 (APU) 加速器的新型 2U 液冷和 4U 風(fēng)冷服務(wù)器，可提高數(shù)據(jù)中心效率，并為人工智能、LLM 和 HPC 領(lǐng)域快速增長的復(fù)雜需求提供動力。新系統(tǒng)包含四個用于可擴(kuò)展應(yīng)用程序的 APU。Supermicro 可以為大規(guī)模環(huán)境提供完整的液冷機(jī)架，每個機(jī)架的 FP64 性能高達(dá) 1,728 TFlops。Supermicro 在全球擁有制造工廠，簡化了新服務(wù)器的交付流程，以實現(xiàn)人工智能和 HPC 的融合。
Supermicro 總裁兼首席執(zhí)行官 Charles Liang 表示："我們非常高興能夠利用最新一代 AMD Instinct 加速器擴(kuò)展我們用于人工智能培訓(xùn)的機(jī)架規(guī)模全面 IT 解決方案，與前幾代產(chǎn)品相比，性能提升高達(dá) 3.4 倍。我們?nèi)蛑圃旃S每月可供應(yīng) 4,000 個液冷機(jī)架，因此可以憑借 AMD Instinct MI300X 加速器或 AMD Instinct MI300A APU 提供最新的 H13 GPU 解決方案。我們的架構(gòu)久經(jīng)考驗，能夠為每個 GPU 提供 1:1 的 400G 網(wǎng)絡(luò)，這些 GPU 專為大規(guī)模人工智能和超級計算集群設(shè)計，能夠完全集成液冷解決方案，為客戶提供兼?zhèn)湫阅苄实母偁巸?yōu)勢，并且易于部署。"
了解更多有關(guān)配備 AMD 加速器的 Supermicro 服務(wù)器信息
LLM 優(yōu)化的 AS – 8125GS-TNMR2 系統(tǒng)基于 Supermicro 的構(gòu)建塊架構(gòu)，是一種經(jīng)驗證的設(shè)計，可用于以風(fēng)冷和液冷機(jī)架規(guī)模設(shè)計的高性能人工智能系統(tǒng)。平衡的系統(tǒng)設(shè)計將 GPU 與 1:1 網(wǎng)絡(luò)相關(guān)聯(lián)，從而形成跨節(jié)點(diǎn)和機(jī)架的大型高帶寬內(nèi)存池，以適應(yīng)當(dāng)今最大的語言模型，參數(shù)高達(dá)數(shù)萬億，最大限度地提高并行計算并最大限度地減少訓(xùn)練時間和推理延遲。配備 MI300X OAM 加速器的 8U 系統(tǒng)借助 AMD Infinity Fabric?Links 提供 8-GPU 的原始加速能力，可在開放標(biāo)準(zhǔn)平臺上可實現(xiàn)高達(dá) 896GB/s 的峰值理論 P2P I/O 帶寬，且在單個系統(tǒng)中具有 1.5TB 的 HBM3 GPU 內(nèi)存，在業(yè)界遙遙領(lǐng)先，還支持原生稀疏矩陣，旨在節(jié)省功耗、降低計算周期并減少人工智能工作負(fù)載的內(nèi)存使用。各服務(wù)器采用雙插槽 AMD EPYC?9004 系列處理器，最高可達(dá) 256 核。在機(jī)架規(guī)模上，超過 1000 個內(nèi)核的 CPU、24TB 的 DDR5 內(nèi)存、6.144TB 的 HBM3 內(nèi)存以及 9728 個計算單元可用于最復(fù)雜的人工智能環(huán)境。Supermicro 在 8U 配置方面擁有豐富經(jīng)驗，并使用 OCP 加速器模塊 (OAM)，相較于定制設(shè)計，可更快將配置完整的服務(wù)器推向市場，從而降低成本和減少交付時間。
Supermicro 還推出了一款密度優(yōu)化的 2U 液冷服務(wù)器 AS –2145GH-TNMR，以及一款 4U 風(fēng)冷服務(wù)器 AS –4145GH-TNMR，每臺服務(wù)器均配備 4 個 AMD Instinct?MI300A 加速器。新服務(wù)器專為 HPC 和人工智能應(yīng)用設(shè)計，需要快速的 CPU - GPU 通信。通過在單個芯片上結(jié)合高性能的 AMD CPU、GPU 和 HBM3 內(nèi)存，APU 消除了冗余內(nèi)存副本。各服務(wù)器均配備用于應(yīng)用程序擴(kuò)展的先進(jìn) x86"Zen4"CPU 內(nèi)核。此外，各服務(wù)器包括的 HBM3 內(nèi)存高達(dá) 512GB。在一個由 21 個 2U 系統(tǒng)組成的全機(jī)架 (48U) 解決方案中，HBM3 可用內(nèi)存達(dá) 10TB 以上，還配備 19,152 個計算單元。從 HBM3 到 CPU 的內(nèi)存帶寬為 5.3 TB/s。
這兩個系統(tǒng)都具有支持 400G 以太網(wǎng)的雙 AIOM 和網(wǎng)絡(luò)擴(kuò)展選項，旨在提升高性能計算空間、可擴(kuò)展性和效率。2U 直接芯片液冷系統(tǒng)提供了出色的總體擁有成本 (TCO)，在 21 個 2U 系統(tǒng)機(jī)架解決方案的基礎(chǔ)上，每個機(jī)架產(chǎn)生 61,780 瓦能量，而不是 95,256 瓦風(fēng)冷機(jī)架，節(jié)能 35% 以上，并且與風(fēng)冷系統(tǒng)相比，風(fēng)扇數(shù)量減少 70%。
AMD 執(zhí)行副總裁兼數(shù)據(jù)中心解決方案事業(yè)部總經(jīng)理 Forrest Norrod 表示："AMD Instinct MI300 系列加速器在長期加速高性能計算應(yīng)用和發(fā)展迅速的生成式人工智能需求方面都具有領(lǐng)先的性能。我們將繼續(xù)與 Supermicro 密切合作，以 MI300 系列加速器為基礎(chǔ)，利用 Supermicro 在系統(tǒng)和數(shù)據(jù)中心設(shè)計的專業(yè)知識，推動領(lǐng)先的人工智能和 HPC 全面解決方案上市。"
向 Supermicro 和 AMD 專家了解更多信息。觀看網(wǎng)絡(luò)研討會直播或點(diǎn)播。
欲了解更多信息，請訪問：
AS -8125GS-TNMR2 (8U w/ MI300x)
AS -2145GH-TNMR (2U LC w/ MI300A)
AS -4145GH-TNMR (4U AC w/ MI300A)
關(guān)于 Super Micro Computer, Inc.
Supermicro（納斯達(dá)克股票代碼：SMCI）是應(yīng)用優(yōu)化整體 IT 解決方案的全球領(lǐng)軍企業(yè)。Supermicro成立于加州圣何塞并在該地運(yùn)營，致力于為企業(yè)、云計算、人工智能和 5G 電信/邊緣 IT 基礎(chǔ)設(shè)施提供率先面市的創(chuàng)新。我們是服務(wù)器、人工智能、存儲、物聯(lián)網(wǎng)、交換機(jī)系統(tǒng)、軟件和支持服務(wù)的整體 IT 解決方案制造商。Supermicro 的主板、電源和機(jī)箱設(shè)計專業(yè)知識，更進(jìn)一步推動了我們的研發(fā)和生產(chǎn)，為我們的全球客戶提供了從云端到邊緣的下一代創(chuàng)新技術(shù)。我們的產(chǎn)品均在公司內(nèi)部（包括美國、亞洲和荷蘭）完成設(shè)計和制造，通過全球運(yùn)營實現(xiàn)規(guī)模和效益，從而優(yōu)化總體擁有成本 (TCO)，并能夠（通過綠色計算）減少對環(huán)境的影響。獲獎無數(shù)的 Server Building Block Solutions® 通過我們靈活可重復(fù)使用的構(gòu)建塊，為客戶提供了豐富的可選系統(tǒng)產(chǎn)品系列，用于優(yōu)化其確切的工作負(fù)載和應(yīng)用。這些構(gòu)建塊支持全系列外形規(guī)格、處理器、內(nèi)存、GPU、存儲、網(wǎng)絡(luò)、電源和冷卻解決方案（空調(diào)、自然空氣冷卻或液體冷卻）。
Supermicro、Server Building Block Solutions 和 We Keep IT Green 是 Supermicro Computer, Inc. 的商標(biāo)和/或注冊商標(biāo)。
AMD、AMD Arrow 標(biāo)識、AMD Instinct、EPYC 及其組合為 Advanced Micro Devices 的商標(biāo)。
所有其他品牌、名稱和商標(biāo)均為其各自所有者所有。
