北京2024年7月11日 /美通社/ -- 7月9日，在"元腦中國行"全國巡展?jié)险旧?，浪潮信息發(fā)布AIStation 人工智能開發(fā)平臺V5升級版，具備全面的大模型流程支持能力，幫助企業(yè)用戶降低構(gòu)建大模型微調(diào)任務(wù)門檻，提供標準、安全的大模型推理服務(wù)，并針對大模型業(yè)務(wù)資源需求優(yōu)化了集群管理功能，助力行業(yè)客戶快速開展大模型業(yè)務(wù)創(chuàng)新與落地，獲得穩(wěn)定、高效、易用、高精度的大模型服務(wù)。
隨著大模型技術(shù)與產(chǎn)業(yè)化發(fā)展的快速迭代，企業(yè)用戶在大模型開發(fā)和應(yīng)用的過程中面臨諸多新的挑戰(zhàn)。一方面，用戶在大模型微調(diào)過程通常會遇到環(huán)境算法配置復雜、模型結(jié)構(gòu)多樣適配繁瑣、算力資源管理難等問題，模型精度難以提升；另一方面，在部署本地化、私有化大模型時，會面臨部署經(jīng)驗不足、性能優(yōu)化瓶頸、算力資源利用不合理等挑戰(zhàn)，難以在保障數(shù)據(jù)與業(yè)務(wù)隱私的條件下構(gòu)建和使用本地化大模型應(yīng)用。
AIStation V5版本功能全面升級，支持端到端的大模型開發(fā)流程，新增適配50+大模型結(jié)構(gòu)，內(nèi)置10+微調(diào)數(shù)據(jù)集和20+可配置參數(shù)項，提供低代碼大模型微調(diào)能力，讓用戶一鍵提交任務(wù)、統(tǒng)一管理任務(wù)，低門檻構(gòu)建大模型微調(diào)任務(wù)、優(yōu)化模型性能。同時，針對大模型算力資源占用高、訓練穩(wěn)定性難保障的問題，AIStation V5升級了針對大模型訓練與微調(diào)的分布式任務(wù)一鍵配置能力，幫助用戶高效、穩(wěn)定地進行大模型微調(diào)。
AIStation V5集成了高性能推理服務(wù)框架，同等算力大模型批量推理服務(wù)承載量較原生部署方式提升1-3倍。通過對算力、服務(wù)、業(yè)務(wù)訪問的全方位治理，以及多樣化的推理服務(wù)部署機制，AIStation V5可以滿足不同場景下用戶自研模型的部署需求，讓用戶能夠在大規(guī)模集群內(nèi)更加細粒度的分配調(diào)度算力，部署和使用不同來源、不同結(jié)構(gòu)、不同規(guī)模的大模型推理服務(wù)，就像在本地部署單個大模型、傳統(tǒng)AI應(yīng)用與服務(wù)一樣簡單。
此外，AIStation V5針對大模型業(yè)務(wù)特點持續(xù)優(yōu)化集群管理核心功能，支持平臺管控的數(shù)據(jù)模型下載任務(wù)管理和導入流程，實現(xiàn)了分鐘級大模型訓練異常自動恢復，能夠有效降低大模型相關(guān)業(yè)務(wù)的人力投入和管理成本；優(yōu)化升級算力池化與分配策略，實現(xiàn)多團隊開發(fā)人員共用流程、共享環(huán)境，開發(fā)者與算力高效協(xié)同，助力企業(yè)客戶提升各類AI創(chuàng)新業(yè)務(wù)的整體效率。
浪潮信息AIStation是面向企業(yè)級訓練與推理場景開發(fā)的人工智能開發(fā)平臺，實現(xiàn)從模型開發(fā)、訓練、部署、測試、發(fā)布、服務(wù)的全流程一站式高效交付。通過統(tǒng)一管理計算資源、數(shù)據(jù)資源、深度學習軟件棧資源，以及支持大模型業(yè)務(wù)全鏈條，AIStation能夠為企業(yè)用戶提供敏捷高效的一體化AI平臺，加快AI開發(fā)應(yīng)用創(chuàng)新落地。
