omniture

2022 ASC世界大學生超級計算機競賽初賽正式開啟 | 美通社

2022-01-06 16:28

2022年1月5日,2022 ASC世界大學生超級計算機競賽(ASC22)初賽正式開啟。來自全球五大洲的300多支參賽隊伍將在接下來的近兩個月中,挑戰(zhàn)“源”AI語言大模型、2020年戈登·貝爾獎獲獎應用DeePMD-kit等尖端應用賽題。

今年的AI賽題聚焦當前業(yè)界前沿AI大模型。“源”是2021年發(fā)布的一個面向中文的巨量語言模型,參數(shù)量達2457億,刷新了業(yè)界多個中文榜單的記錄,且在眾多的語言處理任務場景中表現(xiàn)出了廣闊的應用前景。AI大模型的訓練面臨著計算量和并行策略設計的雙重挑戰(zhàn),因此也是參賽隊展示超算性能優(yōu)化能力的絕佳試驗場。ASC22組委會提供了100GB的高質量中文數(shù)據(jù)集,要求參賽隊基于這一數(shù)據(jù)集實現(xiàn)一個47億參數(shù)的小號“源”模型。值得一提的是,組委會并沒有提供模型設計的參考代碼,這意味著參賽隊需要自行完成模型結構構建和全部訓練過程,并合理設計模型訓練策略,以期得到最佳的計算性能。

DeePMD-kit賽題將引導大學生進行一場人工智能+科學研究(AI+Science)的前沿探索??茖W研究與人工智能結合被視為當前最值得期待的創(chuàng)新趨勢之一,機器學習分子動力學DeePMD-kit的出現(xiàn)成功推動了相關領域的跨越式發(fā)展。而高性能計算的加入將機器學習分子動力學的潛力持續(xù)釋放:DeePMD-kit在超級計算機頂點(Summit)上達到了雙精度91P的峰值性能,到解時間快于之前基線水平1000倍以上,相關成果獲得了2020年戈登·貝爾獎??梢哉fDeePMD-kit的出現(xiàn)定義了科學研究+機器學習+高性能計算的新范式。本次賽題聚焦DeePMD-kit的訓練效率優(yōu)化,通過高性能優(yōu)化提升訓練速度對于用戶來說至關重要。參賽選手將對DeePMD-kit的模型構建過程有一個直觀認識,并可以使用高性能優(yōu)化的手段優(yōu)化整個訓練過程。(美通社,2022年1月6日北京)