omniture

OCP China Day 2023發(fā)布《開放加速規(guī)范AI服務(wù)器設(shè)計(jì)指南》

2023-08-14 11:05

 

2023年開放計(jì)算社區(qū)中國(guó)峰會(huì)(OCP China Day 2023)上發(fā)布了《開放加速規(guī)范AI服務(wù)器設(shè)計(jì)指南》,該指南旨在進(jìn)一步發(fā)展和完善開放加速規(guī)范AI服務(wù)器的設(shè)計(jì)理論和設(shè)計(jì)方法,以助力社區(qū)成員高效地開發(fā)符合規(guī)范的AI加速卡,并縮短與AI服務(wù)器的適配周期此指南的發(fā)布將有望為業(yè)界提供更多關(guān)于生成式AI算力產(chǎn)業(yè)的巨大機(jī)遇。

2019年OCP成立了OAI小組,對(duì)適用于超大規(guī)模深度學(xué)習(xí)訓(xùn)練的AI加速卡進(jìn)行了定義,并發(fā)布了OAI-UBB1.0設(shè)計(jì)規(guī)范,為開放加速規(guī)范AI服務(wù)器的產(chǎn)業(yè)化實(shí)踐奠定了基礎(chǔ)。

《開放加速規(guī)范AI服務(wù)器設(shè)計(jì)指南》提出了四大設(shè)計(jì)原則:應(yīng)用導(dǎo)向、多元開放、綠色高效、統(tǒng)籌設(shè)計(jì)。此外,該指南還倡導(dǎo)多維協(xié)同設(shè)計(jì)、全面系統(tǒng)測(cè)試和性能測(cè)評(píng)調(diào)優(yōu)等設(shè)計(jì)方法。多維協(xié)同設(shè)計(jì)強(qiáng)調(diào)系統(tǒng)和芯片廠商在規(guī)劃初期的全面協(xié)同,以最大程度減少定制開發(fā)的內(nèi)容,從而提高適配部署效率。

全面系統(tǒng)測(cè)試則強(qiáng)調(diào)對(duì)異構(gòu)加速計(jì)算節(jié)點(diǎn)進(jìn)行更全面、嚴(yán)格的測(cè)試,以降低系統(tǒng)故障風(fēng)險(xiǎn)。性能測(cè)評(píng)調(diào)優(yōu)關(guān)注多層次的性能評(píng)測(cè)和軟硬件深度調(diào)優(yōu),以確保開放加速規(guī)范AI服務(wù)器能夠有效支持當(dāng)前主流大模型的創(chuàng)新應(yīng)用。(美通社頭條)