omniture

用元腦企智EPAI"玩轉(zhuǎn)"大模型應(yīng)用開發(fā),1人1月開發(fā)智能售前助手

2024-09-14 16:36 3052

北京2024年9月14日 /美通社/ -- 對于每一位IT售前而言,與數(shù)萬字的招標(biāo)文件打交道是"工作日常",他們不僅需要在幾百頁的招標(biāo)文件中抽絲剝繭找到關(guān)鍵信息,還要在瞬息萬變的市場中迅速捕捉商機(jī)。面對多元化、專業(yè)化的IT業(yè)務(wù)需求,每一個(gè)細(xì)節(jié)都不容有失。

在人工智能技術(shù)飛速發(fā)展的今天,要讓IT售前將大模型能力融入到招投標(biāo)這項(xiàng)專業(yè)性極強(qiáng)的工作中,就像"西天取經(jīng)"一樣難關(guān)重重:AI助手如何精準(zhǔn)掌握大量格式不一且隨時(shí)更新的產(chǎn)品資料?如何理解售前業(yè)務(wù)邏輯?能否確保數(shù)據(jù)安全?

浪潮信息售前團(tuán)隊(duì)先行先試,基于企業(yè)大模型開發(fā)平臺(tái)元腦企智EPAI(Enterprise Platform of AI),零代碼完成企業(yè)知識(shí)庫構(gòu)建、模型微調(diào)、應(yīng)用開發(fā)等工作,簡單高效、低門檻地打造出售前助手"元小智",賦能日常售前業(yè)務(wù),實(shí)現(xiàn)智慧化變革,團(tuán)隊(duì)工作效率提升3-5倍。


做一個(gè)好用的售前助手,到底有多難?

面對日益增長的業(yè)務(wù)需求,浪潮信息售前團(tuán)隊(duì)決定用大模型技術(shù)變革售前業(yè)務(wù),加速推進(jìn)業(yè)務(wù)體系的智能化轉(zhuǎn)型。在對市面上多種工具進(jìn)行測試后發(fā)現(xiàn):AI助手在閱讀、理解、分析和處理長文本方面表現(xiàn)優(yōu)異,但是要想將大模型應(yīng)用到專業(yè)化、精細(xì)化和低容錯(cuò)的招投標(biāo)業(yè)務(wù)中,還有非常繁瑣的開發(fā)工作需要完成。

第一難,如何構(gòu)建浪潮信息全業(yè)務(wù)線產(chǎn)品信息知識(shí)庫,并讓大模型實(shí)現(xiàn)高精準(zhǔn)、高效率的檢索。浪潮信息的業(yè)務(wù)資料覆蓋了服務(wù)器、存儲(chǔ)、網(wǎng)絡(luò)、虛擬化、安全等多種IT基礎(chǔ)設(shè)施領(lǐng)域,大到產(chǎn)品迭代型號(hào),小到插槽數(shù)量、板卡規(guī)格,繁雜的信息不僅多如牛毛,還分成了pdf、doc、xls、html、json等多種格式進(jìn)行存儲(chǔ),難以進(jìn)行統(tǒng)一轉(zhuǎn)換。此外,要想確保模型對有效信息進(jìn)行精準(zhǔn)檢索,還涉及到復(fù)雜的結(jié)構(gòu)化、非結(jié)構(gòu)化信息提取、數(shù)據(jù)向量化、召回測試、檢索優(yōu)化等多個(gè)環(huán)節(jié),需要對RAG系統(tǒng)進(jìn)行整體優(yōu)化,以提高檢索精度。

第二難,如何快速、高效地完成模型微調(diào),提升基礎(chǔ)大模型對于售前業(yè)務(wù)的理解能力。售前業(yè)務(wù)具有特定的行文格式、專業(yè)術(shù)語,大模型需要能夠進(jìn)行專業(yè)化的內(nèi)容輸出,因此需要構(gòu)建高質(zhì)量的微調(diào)數(shù)據(jù)集進(jìn)行模型微調(diào)。這不僅需要對行業(yè)、企業(yè)數(shù)據(jù)進(jìn)行清洗和過濾,還要基于提取出的高質(zhì)量數(shù)據(jù)合成、生成、構(gòu)建,以滿足微調(diào)過程中對數(shù)據(jù)量的需求。這些繁瑣的準(zhǔn)備工作,需要開發(fā)人員具備豐富的大模型微調(diào)經(jīng)驗(yàn),時(shí)間周期長、最終結(jié)果不可控,試錯(cuò)成本高。

最后,考慮到招投標(biāo)文件包含大量企業(yè)隱私數(shù)據(jù),不能上傳至云端大模型進(jìn)行訓(xùn)練推理,企業(yè)模型必須完成私有化本地開發(fā),以及部署易用的大模型應(yīng)用,在確保數(shù)據(jù)絕對安全的同時(shí)確保應(yīng)用的高可用。

化解三難,元腦企智EPAI降低大模型開發(fā)門檻

卓越的大模型應(yīng)用開發(fā)工具是釋放AI生產(chǎn)力的關(guān)鍵。企業(yè)大模型開發(fā)平臺(tái)元腦企智EPAI提供了全鏈路、高可用的系列工具,將專業(yè)的大模型應(yīng)用開發(fā)流程進(jìn)行了界面化封裝,有效降低大模型應(yīng)用開發(fā)門檻,零代碼即可完成大模型應(yīng)用開發(fā)的全流程工作。

浪潮信息售前團(tuán)隊(duì)使用元腦企智EPAI,完成了企業(yè)知識(shí)庫構(gòu)建、模型微調(diào)、應(yīng)用開發(fā)與服務(wù)上線,實(shí)現(xiàn)了企業(yè)知識(shí)的高效利用、售前場景下的模型能力提升與便捷的應(yīng)用開發(fā)部署,跑通大模型應(yīng)用落地全流程,成功打造出智能售前助手"元小智"。


  • 輕松構(gòu)建企業(yè)知識(shí)庫,提高回復(fù)精準(zhǔn)度:依托元腦企智EPAI的知識(shí)庫工具,自動(dòng)完成結(jié)構(gòu)化、非結(jié)構(gòu)化數(shù)據(jù)的解析和存儲(chǔ)。售前團(tuán)隊(duì)將整理出的1500多份pdf、docx、xls等格式的業(yè)務(wù)資料、產(chǎn)品信息、行業(yè)研報(bào)進(jìn)行統(tǒng)一處理,構(gòu)建起公司8大業(yè)務(wù)線全部在售產(chǎn)品的知識(shí)庫,將繁雜的企業(yè)知識(shí)轉(zhuǎn)換為大模型"最強(qiáng)外掛"。
    為了提升知識(shí)庫檢索生成效果,元腦企智EPAI的RAG系統(tǒng)完成了各個(gè)環(huán)節(jié)的全鏈路優(yōu)化,特別是通過自研模型替代傳統(tǒng)Rerank模型,實(shí)現(xiàn)整體精度提升。通過混合檢索策略,多次調(diào)整、驗(yàn)證不同參數(shù)配置下的檢索精度,找到最佳的檢索配置,有效提高知識(shí)庫檢索問答的質(zhì)量,滿足售前專家精準(zhǔn)快速查找產(chǎn)品信息的業(yè)務(wù)需求。

知識(shí)庫檢索配置測試
知識(shí)庫檢索配置測試

  • 高效微調(diào)數(shù)據(jù)治理,提升模型專業(yè)能力:基于元腦企智EPAI的微調(diào)數(shù)據(jù)處理工具,售前人員從業(yè)務(wù)資料、產(chǎn)品信息等文檔中,自動(dòng)抽取生成微調(diào)數(shù)據(jù)集;然后通過多種參數(shù)閾值設(shè)定,針對微調(diào)數(shù)據(jù)進(jìn)行自動(dòng)打分,剔除低質(zhì)量數(shù)據(jù),完成高質(zhì)量數(shù)據(jù)的過濾與篩選,最終形成數(shù)十萬條高質(zhì)量微調(diào)數(shù)據(jù),減少數(shù)據(jù)處理的時(shí)間和成本。通過元腦企智EPAI的零代碼微調(diào)工具,結(jié)合內(nèi)置的經(jīng)專業(yè)算法人員調(diào)優(yōu)的超參數(shù)配置,實(shí)現(xiàn)最佳的微調(diào)效果,構(gòu)建起符合業(yè)務(wù)需求的專用模型。
  • 快捷開發(fā)本地應(yīng)用,實(shí)現(xiàn)開箱即用:元腦企智EPAI內(nèi)置對話式應(yīng)用支持多輪對話、長文本分析、單文檔對話、網(wǎng)絡(luò)檢索等交互功能,可在本地完成模型部署上線服務(wù),輕松滿足使用大模型的多種功能需求。

浪潮信息售前團(tuán)隊(duì)在元腦企智EPAI的加持下,大大縮短了應(yīng)用開發(fā)周期,1人1月即可完成模型微調(diào)、應(yīng)用開發(fā),成功打造出售前助手"元小智",為售前人員的工作注入智慧生產(chǎn)力。

投標(biāo)效率提升3-5倍,元腦企智EPAI加速釋放大模型價(jià)值

基于元腦企智EPAI打造的對話式智能售前助手"元小智"能夠閱讀數(shù)萬字、上百頁的招標(biāo)文件,招標(biāo)關(guān)鍵信息識(shí)別準(zhǔn)確率達(dá)85%,秒級(jí)提取客戶核心需求,將招標(biāo)文件平均分析時(shí)間從天級(jí)縮短到分鐘級(jí)以下。"元小智"可以快速查閱浪潮信息全系列在售產(chǎn)品及方案的相關(guān)內(nèi)容,生成對應(yīng)的產(chǎn)品優(yōu)勢、核心參數(shù)等投標(biāo)支撐信息,免去售前人員在海量產(chǎn)品文件中逐一查閱的重復(fù)性勞動(dòng)。此外,結(jié)合網(wǎng)絡(luò)檢索功能,"元小智"能夠輔助售前人員快速了解同類產(chǎn)品信息,釋放50%的分析時(shí)間。

未來,浪潮信息將基于元腦企智EPAI,為業(yè)內(nèi)提供"算力+平臺(tái)+服務(wù)"一站式解決方案,持續(xù)加速大模型應(yīng)用創(chuàng)新與發(fā)展,讓大模型應(yīng)用開發(fā)不再復(fù)雜。

消息來源:浪潮信息
China-PRNewsire-300-300.png
全球TMT
微信公眾號(hào)“全球TMT”發(fā)布全球互聯(lián)網(wǎng)、科技、媒體、通訊企業(yè)的經(jīng)營動(dòng)態(tài)、財(cái)報(bào)信息、企業(yè)并購消息。掃描二維碼,立即訂閱!
collection