首頁 資訊 > 洞察 > 正文

端側(cè)AI大模型很可能是為5G而生?

就在前幾天小米的年度演講中,雷軍提到小米的AI大模型能力,小愛同學(xué)正式升級為生成式大模型,現(xiàn)已經(jīng)進(jìn)入測試階段。小米高管公式在8月17號表示,小米將會很快實(shí)現(xiàn)端側(cè)AI模型能力。


(資料圖片僅供參考)

(圖源:網(wǎng)易新聞網(wǎng))

01.端側(cè)AI的優(yōu)勢

端側(cè)也就是我們常說的邊緣計(jì)算,這種模式可以更好的支持AloT場景。也就是:AI+IoT(Internet of Things 物聯(lián)網(wǎng))=AIoT。邊緣計(jì)算,是指在靠近物或數(shù)據(jù)源頭的一側(cè),采用網(wǎng)絡(luò)、計(jì)算、存儲、應(yīng)用核心能力為一體的開放平臺,就近提供最近端服務(wù)。邊緣計(jì)算也是一種分布式計(jì)算。它將數(shù)據(jù)資料的處理、應(yīng)用程序的運(yùn)行甚至一些功能服務(wù)的實(shí)現(xiàn),由網(wǎng)絡(luò)中心下放到網(wǎng)絡(luò)邊緣的節(jié)點(diǎn)上,以減少業(yè)務(wù)的多級傳遞,降低核心網(wǎng)和傳輸?shù)呢?fù)擔(dān)。它的應(yīng)用程序是在邊緣側(cè)發(fā)起,產(chǎn)生更快的網(wǎng)絡(luò)服務(wù)相應(yīng)。對物聯(lián)網(wǎng)而言,邊緣計(jì)算技術(shù)取得突破,意味著許多控制將通過本地設(shè)備實(shí)現(xiàn)而無需交由云端,處理過程將在本地邊緣計(jì)算層完成。

端側(cè)AI具有如下優(yōu)點(diǎn):

Al 技術(shù)用于端側(cè)可以第一時(shí)間對收集的數(shù)據(jù)進(jìn)行處理,不需要通過網(wǎng)絡(luò)上傳到云側(cè)的處理中心,極大加快了系統(tǒng)響應(yīng)也減少了系統(tǒng)處理延遲;

端側(cè)計(jì)算可以更高效的處理有價(jià)值的關(guān)鍵數(shù)據(jù),其余的數(shù)據(jù)只是臨時(shí)性的,在端側(cè)結(jié)合 AI 能力,不僅可以更及時(shí)處理數(shù)據(jù),而且減輕網(wǎng)絡(luò)帶寬的限制和緩解對中心側(cè)數(shù)據(jù)存儲的壓力;

在端側(cè)的 Al 技術(shù)可以高效地對用戶的源數(shù)據(jù)進(jìn)行處理,將一些敏感的數(shù)據(jù)進(jìn)行清洗和保護(hù),端側(cè)設(shè)備只將 Al 處理后的結(jié)果上報(bào)云端。

端側(cè)AI的技術(shù)難點(diǎn):

硬件資源限制存儲、內(nèi)存、計(jì)算資源

模型的版本管理、生命周期

終端的種類很多,不同硬件架構(gòu)的適配和模型遷移成本過高

第三點(diǎn)同時(shí)導(dǎo)致了端側(cè)AI應(yīng)用復(fù)雜度增加

02.5G和端側(cè)計(jì)算相輔相成

5G 是一項(xiàng)長期演進(jìn)的技術(shù),也許最開始,我們對它的感知只是手機(jī)網(wǎng)速更快、時(shí)延更低,但 5G 的意義遠(yuǎn)不止于此。隨著 5G 標(biāo)準(zhǔn)從 Rel-15、Rel-16 到 Rel-17 等的不斷演進(jìn),5G 也將不斷擴(kuò)展到更多行業(yè)。數(shù)據(jù)顯示,全球有200多家運(yùn)營商已經(jīng)部署了5G商用網(wǎng)絡(luò),另有將近300家運(yùn)營商正在投資部署5G技術(shù)。在我國,目前已累計(jì)建成5G行業(yè)虛擬專網(wǎng)16000余個(gè),應(yīng)用案例涵蓋交通、醫(yī)療、教育、智慧城市、農(nóng)業(yè)等多個(gè)領(lǐng)域。

在5G網(wǎng)絡(luò)在誕生之初,便定義了它的三大應(yīng)用場景:eMBB(增強(qiáng)移動(dòng)寬帶)、mMTC (海量機(jī)器類通信)和 uRLLC(超可靠低時(shí)延通信),相應(yīng)的為滿足高清視頻、智慧城市、車聯(lián)網(wǎng)等業(yè)務(wù)需求提供技術(shù)支持。

但值得關(guān)注的是,每個(gè)業(yè)務(wù)場景在發(fā)展過程中都有其自身所面臨的一些挑戰(zhàn)。例如,eMBB將對網(wǎng)絡(luò)帶寬產(chǎn)生數(shù)百Gbps的超高需求,從而對回傳網(wǎng)絡(luò)造成巨大傳輸壓力,單方面投資擴(kuò)容匯聚與城域網(wǎng)絡(luò)將大幅提高單位媒體流傳輸成本,無法實(shí)現(xiàn)投資收益;uRLLC需要端到端1ms級超低時(shí)延支撐,僅僅依賴無線與固網(wǎng)物理層與傳輸層技術(shù)進(jìn)步,無法滿足苛刻的時(shí)延需求;mMTC將產(chǎn)生海量數(shù)據(jù),導(dǎo)致運(yùn)營管理的巨大挑戰(zhàn),僅僅由云端集中統(tǒng)一監(jiān)控?zé)o法支撐如此復(fù)雜的物聯(lián)系統(tǒng)。

邊緣計(jì)算恰好可以為這些問題帶來解決方案。首先,邊緣計(jì)算設(shè)備將為新的和現(xiàn)有的邊緣設(shè)備提供連接和保護(hù);其次,盡管5G將為基于云的應(yīng)用程序提供更好的連接性和更低的延遲,但仍然存在處理和存儲數(shù)據(jù)的成本,混合邊緣計(jì)算/5G解決方案可以降低這些成本;最后,邊緣計(jì)算可以讓更多應(yīng)用程序在邊緣運(yùn)行,例如分析,網(wǎng)絡(luò)安全或合規(guī)性/監(jiān)管應(yīng)用程序,減短了由數(shù)據(jù)傳輸速度和帶寬限制所帶來的延時(shí),并可對本地?cái)?shù)據(jù)做初步分析,為云分擔(dān)了一部分工作。

高通中國區(qū)研發(fā)負(fù)責(zé)人徐晧認(rèn)為,面對當(dāng)前AI技術(shù)取得重大突破,未來AI與5G-Advanced融合發(fā)展,將對智能終端和AI應(yīng)用發(fā)展帶來非常深遠(yuǎn)的影響。在5G-Advanced更大帶寬、更低時(shí)延的網(wǎng)絡(luò)能力支撐下,未來AI處理將通過“云-邊-網(wǎng)-端”架構(gòu)不斷從云端向邊緣、終端側(cè)擴(kuò)展,從而在手機(jī)、汽車、XR、無人機(jī)等多種形式的智能終端上催生出大量新興AI應(yīng)用。而多種形式的智能終端和豐富的AI應(yīng)用又會反過來進(jìn)一步促進(jìn)5G-Advanced繁榮發(fā)展。

關(guān)鍵詞:

最近更新

關(guān)于本站 管理團(tuán)隊(duì) 版權(quán)申明 網(wǎng)站地圖 聯(lián)系合作 招聘信息

Copyright © 2005-2023 創(chuàng)投網(wǎng) - www.mallikadua.com All rights reserved
聯(lián)系我們:39 60 29 14 2@qq.com
皖I(lǐng)CP備2022009963號-3