omniture

給內(nèi)存加上AI?三星公布內(nèi)存內(nèi)處理(PIM)技術(shù)方面最新進(jìn)展 | 美通社

2021-08-24 10:34

三星半導(dǎo)體 HBM-PIM

近期,三星在Hot Chips 33會(huì)議上展示了其在內(nèi)存內(nèi)處理(PIM)技術(shù)方面的最新進(jìn)展。Hot Chips 33會(huì)議作為半導(dǎo)體行業(yè)的重要會(huì)議,每年都會(huì)有備受矚目的微處理器和IC創(chuàng)新產(chǎn)品亮相。

三星發(fā)布的信息包括,三星首次成功將基于PIM的高帶寬存儲(chǔ)器(HBM-PIM)整合到商用化加速器系統(tǒng)中,并擴(kuò)大PIM應(yīng)用范圍至DRAM模組和移動(dòng)內(nèi)存,從而加速實(shí)現(xiàn)內(nèi)存和邏輯的融合。

三星首次將HBM-PIM集成到AI加速器中

今年2月,三星推出了其首個(gè)HBM-PIM(Aquabolt-XL),將AI處理能力整合到三星HBM2 Aquabolt中,以增強(qiáng)超級(jí)計(jì)算機(jī)和AI應(yīng)用的高速數(shù)據(jù)處理能力。隨后,HBM-PIM在賽靈思(Xilinx)Virtex Ultrascale+(Alveo)AI加速器中進(jìn)行了測(cè)試,它提升了近2.5倍的系統(tǒng)性能,并降低超過(guò)60%的能耗。

由PIM驅(qū)動(dòng)的DRAM模塊

加速DIMM(AXDIMM)能在DRAM模塊內(nèi)進(jìn)行“處理”,盡可能減少CPU和DRAM之間的大量數(shù)據(jù)交換,以提升AI加速器系統(tǒng)的能源效率。由于緩沖芯片內(nèi)嵌有AI引擎,AXDIMM可對(duì)多個(gè)內(nèi)存排列(DRAM芯片組)并行處理,而非每次僅訪問(wèn)一組,從而大大提升了系統(tǒng)性能和效率。由于AXDIMM模塊能保留傳統(tǒng)DIMM的外形尺寸,因此它能在不修改系統(tǒng)的情況下直接替換。目前,AXDIMM正在客戶的服務(wù)器上進(jìn)行測(cè)試,能夠在基于AI的推薦應(yīng)用中,提供大約2倍的性能,并使整個(gè)系統(tǒng)的能耗減少40%。

移動(dòng)存儲(chǔ)器將AI從數(shù)據(jù)中心帶到設(shè)備上

三星LPDDR5-PIM移動(dòng)存儲(chǔ)器,可在不連接數(shù)據(jù)中心的情況下,提供獨(dú)立的AI功能。模擬測(cè)試表明,LPDDR5-PIM在用于語(yǔ)音識(shí)別、翻譯和聊天機(jī)器人等應(yīng)用時(shí),可提升1倍以上的性能,同時(shí)減少60%以上的能耗。

激發(fā)生態(tài)系統(tǒng)活力

三星計(jì)劃通過(guò)與其他行業(yè)領(lǐng)導(dǎo)者合作,在2022年上半年實(shí)現(xiàn)PIM平臺(tái)標(biāo)準(zhǔn)化,從而擴(kuò)展AI內(nèi)存產(chǎn)品組合。三星還將繼續(xù)努力,培養(yǎng)一個(gè)高度健全的PIM生態(tài)系統(tǒng),以確保整個(gè)內(nèi)存市場(chǎng)的廣泛適用性。(美通社,2021年8月24日韓國(guó)首爾)