網宿科技:AI將引領邊緣計算市場增長,智能硬件或成殺手級應用入口快訊
AI帶來對邊緣計算的算力和推理需求 《報告》基于網宿科技多年的市場實踐與洞察,AI對邊緣計算有兩塊需求,推理模型需要部署在邊緣側。
【TechWeb】近日,全球領先的邊緣計算服務商網宿科技發布了首份《邊緣計算市場實踐與洞察報告》,深入分析了邊緣計算的落地現狀以及未來趨勢。
網宿科技邊緣平臺資深架構師陳云輝解讀報告時指出,邊緣計算已經成為數字化、智能化進程中的重要支撐技術。伴隨IoT產業成熟、AI時代到來,邊緣計算的需求將越發涌現,市場前景更為可觀。
AI帶來對邊緣計算的算力和推理需求
《報告》基于網宿科技多年的市場實踐與洞察,分析了當前邊緣計算的落地現狀。《報告》顯示,從邊緣計算的主要產品形態來看,邊緣云方面,邊緣計算已經在實時音視頻交互、CDN、云游戲、AR/VR等方面成熟應用。邊緣云安全方面,將邊緣與安全結合成為產業共識,諸如SASE架構已被廣泛部署。在物聯網領域,邊緣智能解決方案也在工業制造、交通運輸、畜牧養殖、智慧城市等場景中實現了應用創新。
物聯網是邊緣計算需求最為旺盛的場景之一,隨著IoT產業的成熟,市場會逐步形成垂直行業的邊緣智能解決方案,屆時技術門檻和成本降低,邊緣計算的需求也將順勢增長。
根據MarketsandMarkets報告顯示,全球邊緣計算市場規模將從2023年的600億美元增長至2029年的1106億美元,CAGR達到13%。在國內,IDC報告顯示,2023下半年,中國邊緣云市場規模總計62.6億元,同比增速36.1%,增速超出預期。
對于驅動市場增長的因素,《報告》指出主要有四個方面,一是IoT產業落地成熟引領邊緣計算增長,二是云原生技術應用帶來邊緣云剛需,三是AI大模型為邊緣計算開辟新的商業機遇,四是生成式AI威脅推動云邊端一體化安全能力的建設。
陳云輝表示,現在AI發展有兩大趨勢,一是在中心部署的大模型,會往越來越智能、參數越來越大的方向發展,一個是在端側部署小模型,比如手機廠商在做的端側模型,參數要夠小同時性能也要滿足一定的程度。而我們認為,AI大模型不只是做端和中心,邊緣也有機會。
其分析,比如GPT-4o的發布,多了一些多模態、人機自然交互的體驗,核心特點除了模型能力本身的提升外,最重要的就是實時性,邊緣計算的優勢就在于低時延,可以在其中發揮作用。另外,手機設備GPU算力有限,對于部分場景,算力需要外溢,相較于外溢到中心,時延可能要1-2秒,而外溢到邊緣側,位置距離用戶更近,時延可能在幾百毫秒,才能滿足用戶對生成式AI實時性互動的需求,體驗更自然。
“所以整體來看,AI對邊緣計算有兩塊需求,一個是算力,另一個是推理。推理模型需要部署在邊緣側,未來推理與迭代將在云-邊-端呈現梯次分布,所以云邊端一體化架構也是AI大模型發展的一個趨勢。”陳云輝表示。
智能硬件或成殺手級AI應用入口
此次《報告》發布會上,陳云輝與邊緣計算社區創始人史皓天還就業界所關心的殺手級AI應用等話題進行了探討。
在陳云輝看來,盡管AI在諸多方面的應用已經如火如荼,但真正意義上的殺手級AI應用尚未出現。
比如To C層面,AI搜索、AI角色扮演、AI陪伴等,雖然流量大、用戶多,但商業閉環尚未形成,用戶留存率也有待提高。此外,AI PPT、AI電商生圖等生產力工具,已經實現部分商業閉環,不過目前仍處在市場推廣階段。To B層面,企業內部的AI知識庫面臨幻覺問題,以及數據隱私和私有化部署成本問題,性能和效果達不到AI數字員工的理想狀態,殺手級應用也暫時還未出現。
對于殺手級AI應用何時涌現,陳云輝認為,智能穿戴和AI硬件領域將可能出現殺手級應用,并隨之帶來對邊緣計算的大量需求。
“隨著模型能力不斷升級,達到比較好的性能和效果,同時推理成本下降,再疊加AI硬件的成熟,將給整個產業帶來更大的想象空間。比如AR/VR眼鏡、AI耳機要求實時交互,并且搭載語音、視頻等豐富內容,對算力要求極高,端側算力有限,邊緣側將是提供算力承載的理想位置。”陳云輝進一步指出。
據悉,目前網宿科技已經在邊緣AI領域進行了深入布局,推出了包括Serverless GPU、邊緣AI網關、邊緣模型微調與推理服務在內的邊緣AI產品。
未來,網宿科技還將面向AI繼續投入,一是持續加強建設算力網絡和平臺能力,降低AI技術的使用門檻,服務AI規模化普及;其次將關注智能硬件的發展,投入邊緣計算資源建設以及云邊端整體能力的建設,協同行業伙伴探索XR應用的落地。最后,面對AI加劇威脅形勢,網宿科技還將以AI驅動安全,全方位提升邊緣安全能力。
1.TMT觀察網遵循行業規范,任何轉載的稿件都會明確標注作者和來源;
2.TMT觀察網的原創文章,請轉載時務必注明文章作者和"來源:TMT觀察網",不尊重原創的行為TMT觀察網或將追究責任;
3.作者投稿可能會經TMT觀察網編輯修改或補充。