摘要:近幾年行動通訊人工智能物聯網及相關是熱門應用,而且未來也展現出萬物皆智能的趨勢。這其中邊緣運算也稱邊緣計算是一股即將興起的風潮。甚至應用于物聯網非實時性小型傳感器網絡的智能邊緣運算的普通單芯片如系列也可都算是邊緣運算。
近幾年行動通訊、人工智能、物聯網及相關是熱門應用,而且未來也展現出「萬物皆智能(AIoT = AI + IoT)」的趨勢。
不論是家電、交通、零售、虛擬擴增實境(AR/VR/XR)、人機互動、醫療、食安、農業、金融、安全監控、電商平臺及城市環境等等,無一沒有智能管理、分析及預測。這其中「邊緣運算」(Edge Computing)(也稱「邊緣計算」)是一股即將興起的風潮。
「邊緣運算」即將興起
云端及邊緣運算
2012年「深度學習(類神經網絡)」技術的突破帶動了新一波「人工智能」崛起,其中最大功臣莫過于繪圖芯片(GPU)。接踵而來的是大量的建置以GPU為主的深度學習計算用服務器來進行高速運算,不論是影像(對象)辨識、人臉(性別、年紀、情緒)識別、自然語言分析、語言翻譯、文義提取、文藝創作等等都要靠強大的云端(無論公有云或私有云)計算才能完成。
雖然云端可獲得接近無限的計算能力,但有太多場合基于個人隱私(資料保密)問題不能上網,或者是計算延遲性太高不符實務需求,更重要的是一直上網利用云端服務(計算、儲存)要一直付錢,這可是使用者最不樂見的,因而在此需求下「邊緣運算」應運而生。
邊緣計算強調可針對特定需求只作單一或少量功能,因此不需像訓練時所需的巨量運算,只需利用訓練好的模型在特定排程或時間內完成推論(Inference)即可,運算量相對減少很多,所以大多數情況下可利用AI芯片(或神經網絡加速)(CPU, GPU, FPGA, ASIC, SoC等)即可達成。(有興趣的朋友可參考之前的文章「人工智能AI芯片與Maker創意接軌(上)(中)(下)」)。
AI芯片類型
到底要多邊緣才叫邊緣運算?
目前業界所謂的邊緣運算并沒有一個標準定義。
各家公司自定義的邊緣運算也有極大的算力差異。有的把GPU服務器不上公有云就算是邊緣運算(私有云的概念),有的把單板計算機(小型工業計算機、NAS等)加上GPU卡算成邊緣運算(個人計算機概念)。而繪圖芯片(GPU)最知名供貨商NVIDIA也把旗下的TX2及Xavier這類SoC(內含多核CPU+GPU)所組成小型(超)高階單板計算機也稱為邊緣運算。
當然也有一般我們較常聽到用于嵌入式系統(如樹莓派、Arm等級的開發板)配合AI芯片(如Intel Movidius等)的邊緣運算。甚至應用于物聯網(IoT)非實時性小型傳感器網絡的智能邊緣運算的普通單芯片MCU(如Cortex-M系列)也可都算是邊緣運算。
綜合以上所述,只要AI推論計算部份不上網都可以算是邊緣運算。但個人比較傾向功率小于10瓦(或許小到1W)、算力小于1TFlops(或許小到10GFlop)、可利用行動電源(5V/2A)供電并可放到口袋中(100x100mm)的裝置才算是邊緣運算裝置。
或許有人會問這么低的算力能作什么應用,舉例來說,要花一小時走路才能到的地方,開法拉利或許很帥氣,但若不趕時間時,騎個共享單車不用花什么錢、也不會花太久就可以到,還可順便運動一下。
但若要到50公里遠的地方,那腳踏車可能就不怎么方便了,此時可能要考慮機車或轎車才較能符合需求。同樣地當人工智能應用場景明確時,計算量、反應時間、硬件成本就可以較容易估算出來,此時如何選擇適當的邊緣運算平臺就顯而易見了。
未來「邊緣運算」雖可解決網絡巨量通訊、儲存空間、信息隱私、推論延遲及持續付費等問題,但需有更多解決方案來強化硬件算力(AI芯片加速)及算法優化(模型減量)。另外整體開發環境(AI框架、工具包)、設備體積、執行功耗及銷售價格也是影響這項技術是否能普及的重要因素。
相信不久的將來大家就會更加了解如何依自身的場景需求找到云端及本地端(邊緣)計算的合理配比,而不是全部都在云端或邊緣端,如此就能讓更多AI應用落地。
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://m.specialneedsforspecialkids.com/yun/5299.html
摘要:什么是邊緣計算邊緣計算,其定義也比較寬泛,可以理解為最近端的云計算,但是邊緣計算從許多共識來看,并不隸屬于云計算,而是云計算的補充或者云計算的預處理。 計算是互聯網中一個永恒的話題,設備的所有運行都可以看成是 0 和 1 的運算。在計算中近些年有兩個越來越響亮的技術:云計算和邊緣計算。現如今是云計算方興未艾,邊緣計算已經有了燎原之勢,本文將對這兩種技術做下簡單的對比介紹,讓大家能夠對邊...
摘要:云計算的潮流仍方興未艾,而邊緣計算又從何說起提到邊緣計算,還得從物聯網說起。事實上,邊緣計算的模型與云計算模型不是非此即彼的關系,而是相輔助相成的。搭載物聯網的發展,邊緣計算也迎來了大好春天。云計算的潮流仍方興未艾,而邊緣計算又從何說起?提到邊緣計算,還得從物聯網說起。時至今日,物聯網在IT領域的發展趨勢已然成型,且前景依然廣闊。有人稱物聯網是人類繼工業革命和信息革命后的又一場偉大革命。當然...
摘要:不只云端電信業者紛紛押寶邊緣計算的市場,連全球較大開源社群基金會今年月也決定成立新項目來大力推動邊緣計算,要打造一套通用物聯網邊緣計算框架,超過家軟硬件廠商和新創加入,包括等。為何有人開始主張邊緣計算將會吃掉云計算,也有人相信純云計算時代正邁向終結,而且不只云端龍頭、商用軟件巨頭都搶著要押寶,連全球較大開源社群也大力支持,原因是什么? 云端服務龍頭Amazon每年冬天在美國拉斯韋加斯舉...
摘要:不只云端電信業者紛紛押寶邊緣計算的市場,連全球較大開源社群基金會今年月也決定成立新項目來大力推動邊緣計算,要打造一套通用物聯網邊緣計算框架,超過家軟硬件廠商和新創加入,包括等。 為何有人開始主張邊緣計算將會吃掉云計算,也有人相信純云計算時代正邁向終結,而且不只云端龍頭、商用軟件巨頭都搶著要押寶,連全球較大開源社群也大力支持,原因是什么?云端服務龍頭Amazon每年冬天在美國拉斯韋加斯舉行的r...
摘要:邊緣計算,讓園區充滿智慧邊緣計算是指在靠近物或數據源頭的一側,采用網絡計算存儲應用核心能力為一體的開放平臺,就近提供最近端服務。公布十大技術趨勢,邊緣計算位列其中。邊緣計算可廣泛應用于在智慧園區工業制造商超車聯網等領域。 邊緣計算,讓園區充滿智慧邊緣計算是指在靠近物或數據源頭的一側,采用網絡、計算、存儲、應用核心能力為一體的開放平臺,就近提供最近端服務。其應用程序在邊緣側發起,產生更快...
閱讀 2439·2021-11-22 13:53
閱讀 1133·2021-09-22 16:06
閱讀 1375·2021-09-02 15:21
閱讀 1906·2019-08-30 15:55
閱讀 3127·2019-08-29 11:19
閱讀 1924·2019-08-26 13:23
閱讀 943·2019-08-23 18:23
閱讀 1760·2019-08-23 16:06