omniture

AI on Horizon,地平線黃暢CES ASIA暢談邊緣計算發(fā)展趨勢

2019-06-14 11:01

上海2019年6月14日 /美通社/ -- 第五屆亞洲消費電子展(CES ASIA)于2019年6月11-13日在中國上海新國際博覽中心(SNIEC)舉行,聚焦邊緣人工智能計算的科技創(chuàng)業(yè)公司地平線受邀參展。12日上午,地平線聯(lián)合創(chuàng)始人&副總裁黃暢作為AI領域的資深專家,受邀在 CES 主論壇發(fā)表主題演講,分享其對人工智能時代邊緣計算趨勢的洞察并深度解讀地平線的“AI on Horizon, Journey Together”戰(zhàn)略。

地平線聯(lián)合創(chuàng)始人&副總裁黃暢
地平線聯(lián)合創(chuàng)始人&副總裁黃暢

黃暢表示,普惠AI時代,邊緣計算將成為破解AI物聯(lián)網(wǎng)核心難題的關鍵。全球知名咨詢公司 Gartner于2018年8月首次正式提出了普惠AI時代的主張。這意味著人工智能這項新技術已經(jīng)不僅局限于政府或實驗室,開始邁進了普惠大眾的階段,進入各個行業(yè)創(chuàng)造價值。然而機遇與挑戰(zhàn)并存,隨著AI的發(fā)展,數(shù)據(jù)量級和復雜度急劇增長。據(jù)國際 IDC 數(shù)據(jù)公司(IDC)白皮書《數(shù)據(jù)時代2025》預測,2025年,超過25%的數(shù)據(jù)將成為實時數(shù)據(jù),其中95%生產(chǎn)自 IoT 終端,并且絕大部分不能直接創(chuàng)造價值,需要經(jīng)過計算來提煉;而2025年全球數(shù)據(jù)總量的20%將直接關乎人們的日常生活乃至生存安危。

因此,分布式AI計算勢在必行。在通用性高的領域交付于云上完成,與生命安全、隱私保護密切相關的領域則由端進行處理。而邊緣計算將成為端上指數(shù)級爆炸數(shù)據(jù)的過濾器與控制閥,經(jīng)過有效處理之后,只需提取少量有效數(shù)據(jù)傳回云端即可。隨著 5G 商用開啟,終端接入網(wǎng)的擴容極大,實時性要求進一步提升,但因為骨干網(wǎng)擴容成本高、延遲大,導致在邊緣側形成數(shù)據(jù)堰塞湖。Intel 曾表示:MEC(多接入邊緣計算)不一定需要 5G,但 5G 一定需要 MEC。有了邊緣計算的加持,5G 的商業(yè)價值才能真正得以發(fā)揮。邊緣計算帶來的是商業(yè)范式的轉移,是一次從軟件到硬件的全新變革。端邊云協(xié)同,未來,人們需要在一個更大的范圍內尋找AI解決方案的最優(yōu)解。

另一方面,普惠AI時代的背后是數(shù)據(jù)計算帶來的巨大能源消耗。能源是支持一個社會運轉的重要生產(chǎn)資料、物質資料。指數(shù)級的數(shù)據(jù)增長不知不覺間給社會造成了巨大的負擔。以中國為例,今天,數(shù)據(jù)中心耗電驚人,據(jù)《中國數(shù)據(jù)中心能耗現(xiàn)狀白皮書》顯示,在中國有40萬個數(shù)據(jù)中心,每個數(shù)據(jù)中心平均耗電25萬度,總體超過1000億度,這相當于三峽和葛洲壩水電站1年發(fā)電量的總和。如果折算成碳排放的話,大概是9600萬噸,這個數(shù)字接近目前中國民航年碳排放量的3倍。這是一個巨大的數(shù)字。隨著時代向前推進,數(shù)據(jù)的處理量只會增,不會減。從工業(yè)時代的用電量,到數(shù)字經(jīng)濟時代的用云量,再到AI經(jīng)濟時代,要考慮的是“用算量”。追求極致效能,這不僅僅是出于利益考量,也成為了AI企業(yè)的社會責任。

當前的業(yè)界存在一個很大的誤區(qū),往往會把峰值算力當作衡量AI芯片的主要指標。但其實真正需要的是有效算力,及其輸出的算法性能。這需要從四個維度來衡量:每瓦的峰值算力和每美元的峰值算力(由芯片架構、前后端設計和芯片工藝共同決定),峰值算力的有效利用率(由算法和芯片架構決定),以及有效算力轉化為AI性能的比率(主要是速度和精度兩個方面,由算法決定)。之前業(yè)界普遍采用 Resnet 這樣的模型,但今天采用類似 MobileNet 這樣更加精巧設計的小模型,可以用1/10的算力達到相同的精度和速度。這些精巧設計的算法給計算架構帶來了巨大的挑戰(zhàn),往往使得傳統(tǒng)設計的計算架構的有效利用率大幅下降,從最終的AI性能角度來說,甚至得不償失。

地平線的最大特點,是對重要應用場景中,關鍵算法的發(fā)展趨勢進行預判,前瞻性地將其計算特點融入到計算架構的設計當中,使得AI處理器經(jīng)過一兩年的研發(fā),在推出的時候,仍然能夠很好地適應最新的主流算法。因此,和其他典型的AI處理器相比,地平線的AI處理器,隨著算法的演進趨勢,始終能夠保持相當高的有效利用率,從而真正意義上受益于算法創(chuàng)新帶來的優(yōu)勢。

掌握了算法和計算架構,地平線還具備了巨大的潛能。而編譯器,則能夠將這兩者聯(lián)合起來進行極致優(yōu)化,釋放出所有的潛能。舉一個實際的例子,在沒有優(yōu)化的情況下,峰值算力的有效利用率是34%;但經(jīng)過編譯器對指令序列進行優(yōu)化之后,這個數(shù)值被提升到了85%。這使得芯片的處理速度,提升了2.5倍,或者說,處理相同多的任務,功耗降低到40%。

順勢而為,用未來重要應用場景中的關鍵算法發(fā)展趨勢,來指導地平線AI芯片的架構設計,首重效率,兼顧靈活,這是地平線一直以來的設計理念 -- 極致的AI能效是地平線在產(chǎn)品上始終如一的理想和追求。

極致的AI能效是地平線在產(chǎn)品上始終如一的理想和追求
極致的AI能效是地平線在產(chǎn)品上始終如一的理想和追求

而在面向客戶的實際合作案例中,地平線的方案也充分展示了賦能客戶的能力。L4級別自動駕駛的視覺感知的解決方案中有12個360度的攝像頭、4個魚眼、以及8個常規(guī)60度攝像頭,能夠覆蓋車周邊360度的場景,做分割、檢測、和車道線等各種各樣的視覺感知技術??蛻糸_始選擇了 GPU 方案,發(fā)現(xiàn)就算把 GPU 塞到車里,功耗與制冷都成為了巨大的問題。地平線基于自主研發(fā)的征程處理器方案卻能將功耗降低到3W,且完全可以用量產(chǎn)的方式對車輛進行部署,解決了客戶的痛點。

另外,地平線選擇開發(fā)工具鏈+開放平臺,多層次開放賦能。地平線不僅會提供基礎開發(fā)工具,完成從數(shù)據(jù)到模型的轉換過程,還會將范疇拉開,提供AI的平臺級工具。AI從技術演示到商業(yè)落地的路徑很長,將AI解決方案集成到客戶的產(chǎn)品中,賦能并成就客戶,對大部分公司來說,存在不低的門檻。所以,為降低方案被集成的難度,地平線設計出一整套包含數(shù)據(jù)、訓練、部署在內的算法開發(fā)流程,并開發(fā)出一套全棧式的AI平臺工具用來高效地支撐這套開發(fā)流程。甚至提供大量優(yōu)秀的算法模型和原型系統(tǒng),作為參考樣例提供給客戶。通過這些工具和樣例,客戶可以照貓畫虎,快速地進行產(chǎn)品所需的算法開發(fā),并持續(xù)迭代,由淺入深地進行全方位地調優(yōu),探索客戶自己在數(shù)據(jù)和算法方面的獨特價值。 

地平線的全棧AI平臺工具鏈,包括數(shù)據(jù)、訓練和設備部署工具。它們形成了閉環(huán),能夠高效地運作起來,數(shù)據(jù)產(chǎn)生模型,模型可以被部署到設備上運行,運行過程中又可以指導模型的調優(yōu),甚至收集新的數(shù)據(jù)。這樣的一種開發(fā)模式,可以提升開發(fā)速度,降低開發(fā)門檻,保證開發(fā)質量。地平線當前的評估結果顯示,它可以減少約30%的開發(fā)人力,節(jié)省50%的開發(fā)時間,更重要的是,因為開發(fā)門檻被降低,開發(fā)者的規(guī)模甚至可以擴大一個數(shù)量級。

地平線會持續(xù)對開發(fā)工具進行升級,為客戶提供半自動化的處理流程,這里包括:數(shù)據(jù)工具與模型,模型與端上設備之間的閉環(huán)迭代;豐富的模型/系統(tǒng)參考原型,簡潔易用直觀方便的交互手段;標準化開發(fā)流程,加上持續(xù)的測試,集成,部署機制。

不久前,地平線創(chuàng)始人&CEO 余凱公布了“AI on Horizon, Journey Together”的戰(zhàn)略。在目前這樣一個能源消耗巨大的AI時代,地平線以其自身特有的優(yōu)勢及服務理念,為客戶提供高性價比和易被繼承的產(chǎn)品,友好的開發(fā)工具及參考樣例、先進的計算架構、前沿的算法支持和優(yōu)質的服務。以開放賦能客戶為本,快速滿足不同客戶需求是地平線AI平臺服務客戶的宗旨,力圖節(jié)省更多的開發(fā)時間,節(jié)約更多的開發(fā)人員,也讓越來越多的企業(yè)參與到人工智能開發(fā)的環(huán)境中來,打造良好的生態(tài)基礎平臺。

AI on Horizon,地平線黃暢CES ASIA暢談邊緣計算發(fā)展趨勢
AI on Horizon,地平線黃暢CES ASIA暢談邊緣計算發(fā)展趨勢

目前,地平線在智能駕駛和 AIoT 領域已成功賦能多個行業(yè)合作伙伴,包括地平線高精建圖與定位方案賦能 SK 電訊,終端完整語音方案賦能小愛音箱、車載多音區(qū)交互技術賦能理想 ONE 車內智能交互、工地安全帽檢測等等,并積極參與 AI生態(tài)建設,加入了 96boards 等生態(tài)社區(qū)聯(lián)盟,加速AI賦能。

消息來源:地平線