端側AI大模型很可能是為5G而生？

2023-08-23 10:10:57來源：維科網(wǎng)通信關鍵詞：邊緣計算 AI大模型閱讀量：25504

導讀：Al 技術用于端側可以第一時間對收集的數(shù)據(jù)進行處理，不需要通過網(wǎng)絡上傳到云側的處理中心，極大加快了系統(tǒng)響應也減少了系統(tǒng)處理延遲。

　　就在前幾天小米的年度演講中，雷軍提到小米的AI大模型能力，小愛同學正式升級為生成式大模型，現(xiàn)已經(jīng)進入測試階段。小米高管公式在8月17號表示，小米將會很快實現(xiàn)端側AI模型能力。

　　01.端側AI的優(yōu)勢

　　端側也就是我們常說的邊緣計算，這種模式可以更好的支持AloT場景。也就是：AI+IoT(Internet of Things 物聯(lián)網(wǎng))=AIoT。邊緣計算，是指在靠近物或數(shù)據(jù)源頭的一側，采用網(wǎng)絡、計算、存儲、應用核心能力為一體的開放平臺，就近提供最近端服務。邊緣計算也是一種分布式計算。它將數(shù)據(jù)資料的處理、應用程序的運行甚至一些功能服務的實現(xiàn)，由網(wǎng)絡中心下放到網(wǎng)絡邊緣的節(jié)點上，以減少業(yè)務的多級傳遞，降低核心網(wǎng)和傳輸?shù)呢摀?。它的應用程序是在邊緣側發(fā)起，產(chǎn)生更快的網(wǎng)絡服務相應。對物聯(lián)網(wǎng)而言，邊緣計算技術取得突破，意味著許多控制將通過本地設備實現(xiàn)而無需交由云端，處理過程將在本地邊緣計算層完成。

　　端側AI具有如下優(yōu)點:

　　Al 技術用于端側可以第一時間對收集的數(shù)據(jù)進行處理，不需要通過網(wǎng)絡上傳到云側的處理中心，極大加快了系統(tǒng)響應也減少了系統(tǒng)處理延遲;

　　端側計算可以更高效的處理有價值的關鍵數(shù)據(jù)，其余的數(shù)據(jù)只是臨時性的，在端側結合 AI 能力，不僅可以更及時處理數(shù)據(jù)，而且減輕網(wǎng)絡帶寬的限制和緩解對中心側數(shù)據(jù)存儲的壓力;

　　在端側的 Al 技術可以高效地對用戶的源數(shù)據(jù)進行處理，將一些敏感的數(shù)據(jù)進行清洗和保護，端側設備只將 Al 處理后的結果上報云端。

　　端側AI的技術難點：

　　硬件資源限制

　　存儲、內(nèi)存、計算資源

　　模型的版本管理、生命周期

　　終端的種類很多，不同硬件架構的適配和模型遷移成本過高

　　第三點同時導致了端側AI應用復雜度增加

　　02.5G和端側計算相輔相成

　　5G 是一項長期演進的技術，也許最開始，我們對它的感知只是手機網(wǎng)速更快、時延更低，但 5G 的意義遠不止于此。隨著 5G 標準從 Rel-15、Rel-16 到 Rel-17 等的不斷演進，5G 也將不斷擴展到更多行業(yè)。數(shù)據(jù)顯示，全球有200多家運營商已經(jīng)部署了5G商用網(wǎng)絡，另有將近300家運營商正在投資部署5G技術。在我國，目前已累計建成5G行業(yè)虛擬專網(wǎng)16000余個，應用案例涵蓋交通、醫(yī)療、教育、智慧城市、農(nóng)業(yè)等多個領域。

　　在5G網(wǎng)絡在誕生之初，便定義了它的三大應用場景：eMBB(增強移動寬帶)、mMTC (海量機器類通信)和 uRLLC(超可靠低時延通信)，相應的為滿足高清視頻、智慧城市、車聯(lián)網(wǎng)等業(yè)務需求提供技術支持。

　　但值得關注的是，每個業(yè)務場景在發(fā)展過程中都有其自身所面臨的一些挑戰(zhàn)。例如，eMBB將對網(wǎng)絡帶寬產(chǎn)生數(shù)百Gbps的超高需求，從而對回傳網(wǎng)絡造成巨大傳輸壓力，單方面投資擴容匯聚與城域網(wǎng)絡將大幅提高單位媒體流傳輸成本，無法實現(xiàn)投資收益；uRLLC需要端到端1ms級超低時延支撐，僅僅依賴無線與固網(wǎng)物理層與傳輸層技術進步，無法滿足苛刻的時延需求；mMTC將產(chǎn)生海量數(shù)據(jù)，導致運營管理的巨大挑戰(zhàn)，僅僅由云端集中統(tǒng)一監(jiān)控無法支撐如此復雜的物聯(lián)系統(tǒng)。

　　邊緣計算恰好可以為這些問題帶來解決方案。首先，邊緣計算設備將為新的和現(xiàn)有的邊緣設備提供連接和保護；其次，盡管5G將為基于云的應用程序提供更好的連接性和更低的延遲，但仍然存在處理和存儲數(shù)據(jù)的成本，混合邊緣計算/5G解決方案可以降低這些成本；最后，邊緣計算可以讓更多應用程序在邊緣運行，例如分析，網(wǎng)絡安全或合規(guī)性/監(jiān)管應用程序，減短了由數(shù)據(jù)傳輸速度和帶寬限制所帶來的延時，并可對本地數(shù)據(jù)做初步分析，為云分擔了一部分工作。

　　高通中國區(qū)研發(fā)負責人徐晧認為，面對當前AI技術取得重大突破，未來AI與5G-Advanced融合發(fā)展，將對智能終端和AI應用發(fā)展帶來非常深遠的影響。在5G-Advanced更大帶寬、更低時延的網(wǎng)絡能力支撐下，未來AI處理將通過“云-邊-網(wǎng)-端”架構不斷從云端向邊緣、終端側擴展，從而在手機、汽車、XR、無人機等多種形式的智能終端上催生出大量新興AI應用。而多種形式的智能終端和豐富的AI應用又會反過來進一步促進5G-Advanced繁榮發(fā)展。

上一篇：2023年將塑造5G技術未來的四大趨勢

下一篇：機器人上崗種樹？新概念植樹機器人或將拯救瀕危森林

我要評論

昵稱

匿名

文明上網(wǎng)，理性發(fā)言。（您還可以輸入200個字符)

表情

所有評論僅代表網(wǎng)友意見，與本站立場無關。

早報|中國AI大模型周調用量增31.48%；三星電子營業(yè)利潤飆升
根據(jù)OpenRouter最新數(shù)據(jù)測算，上周(3月30日至4月5日)全球AI大模型總調用量為27萬億Token，環(huán)比增長18.9%；三星電子4月7日發(fā)布的未經(jīng)審計的初步數(shù)據(jù)顯示，其第一季度營業(yè)利潤達到創(chuàng)紀錄的57.2萬億韓元(約合380億美元)，同比增長755%，遠超市場預期......
AI大模型三星電子
2026-04-07 09:49:15
里程碑！3套國產(chǎn)AI萬卡超集群同時上線國家級算力樞紐
2月5日，中科曙光在國家超算互聯(lián)網(wǎng)鄭州核心節(jié)點，同時部署上線3套scaleX萬卡超集群。依托超3萬國產(chǎn)AI卡的算力規(guī)模”，鄭州核心節(jié)點全面覆蓋AI大模型訓練、高通量推理、AI for Science等大規(guī)模算力場景。
AI大模型中科曙光
2026-02-06 09:18:33
經(jīng)緯恒潤與中興微電子簽署戰(zhàn)略合作協(xié)議
經(jīng)緯恒潤與中興微電子于2月2日正式簽署戰(zhàn)略合作協(xié)議。雙方將共同探索AI及大模型技術在智能駕駛、智能座艙領域的融合應用，研發(fā)相關技術解決方案，助力汽車智能化升級。
車聯(lián)網(wǎng)智能座艙AI大模型
2026-02-04 10:55:28
動態(tài)速覽｜傅利葉推出腦機具身解決方案、亞信科技、ABB機器人聯(lián)合成立“具身智能實驗室“......
最近，知名企業(yè)發(fā)生了什么要聞？下面小編帶大家一起回顧近期智慧城市領域公司的重要動態(tài)：傅利葉推出腦機具身解決方案；立林中標綠城集團2025-2027年度智能家居戰(zhàn)略集采等。
具身智能AI大模型
2026-02-02 14:04:51
走出舒適區(qū)的“工業(yè)之眼”，正在何處加速進化？
Vision China 2026(上海)機器視覺展，將于2026年3月25-27日在上海新國際博覽中心(SNIEC)W4&W5館重磅啟幕。隨著技術走向成熟，機器視覺正在從傳統(tǒng)工業(yè)核心領域擴展到醫(yī)療、智能交通等多元場景。
機器視覺AI大模型
2026-01-30 11:16:39
2026及未來邊緣計算的十大趨勢
過去，企業(yè)采用邊緣計算的主要動因集中于節(jié)省帶寬成本、提升數(shù)據(jù)安全與隱私、增強系統(tǒng)韌性以及滿足特定行業(yè)場景需求。如今，這些需求仍然關鍵，但已不再是主要驅動力。
邊緣計算
2026-01-30 10:18:51

版權與免責聲明：

凡本站注明“來源：智能制造網(wǎng)”的所有作品，均為浙江興旺寶明通網(wǎng)絡有限公司-智能制造網(wǎng)合法擁有版權或有權使用的作品，未經(jīng)本站授權不得轉載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權使用作品的，應在授權范圍內(nèi)使用，并注明“來源：智能制造網(wǎng)”。違反上述聲明者，本站將追究其相關法律責任。

本站轉載并注明自其它來源（非智能制造網(wǎng)）的作品，目的在于傳遞更多信息，并不代表本站贊同其觀點或和對其真實性負責，不承擔此類作品侵權行為的直接責任及連帶責任。如其他媒體、平臺或個人從本站轉載時，必須保留本站注明的作品第一來源，并自負版權等法律責任。如擅自篡改為“稿件來源：智能制造網(wǎng)”，本站將依法追究責任。

鑒于本站稿件來源廣泛、數(shù)量較多，如涉及作品內(nèi)容、版權等問題，請與本站聯(lián)系并提供相關證明材料：聯(lián)系電話：0571-89719789；郵箱：1271141964@qq.com。