面對即將到來的5G及IoT時代,不少人的關注焦點一直擺在如何透過云端的高速運算,來建立起足夠強大的AI系統,然而市場也發現,真的要達到智慧化的生活,光靠云端是完全不夠的,不僅可能會有反應速度不夠快、云端運算負擔太重等問題,信息頻繁透過遠程傳輸,更有可能萌生出大量資安問題。因此,終端裝置的邊緣運算開始成為大家積極研究的領域。

　　很多智能應用都必須靠建立AI模型來實現。然而,很多時候我們不能過度仰賴云端,因此讓裝置本身具備機器學習及運算的能力,就成為新的市場需求。更重要的是要讓邊緣到云端運算之間能夠緊密連結并分工合作,創造出最有效率的AI運作模式。

　　若是終端裝置本身就具備推理學習的功能,裝置能夠辨識或是偵測分析環境中的各項參數,并直接在裝置端建立起屬于自己的預警模型,整個過程中甚至沒有云端的介入,這樣能讓系統本身具備更快的反應能力,并且保持數據的隱私性。

　　不過,還是有一些特殊狀況會需要邊緣與云端的相互配合,比方說面臨自然災害等大范圍的突發狀況時,系統可能會有多個參數同時異常,在這樣的狀況下,裝置終端就會將數據回傳到云端,云端再透過多個不同裝置回傳的數據快速判斷可能的狀況并下達反應指令。

　　這樣的運作概念不僅可以用在異常偵測,在智慧城市中也有非常大的發揮空間,以無人機影像識別系統為例:過去系統的概念是,在攝像頭旁邊也就是在無人機上放置影像識別模塊如TX2,初步辨識的數據回傳到云端或邊緣云,運算完成后再將信息回傳到控制中心上,過程相當復雜。

　　在攸泰領先業界的Ruggon PX-501 (8代i5 8250u / i7 8650u)與Intel openVINO合作的案例中,透過最先進的架構使AI推論具備功耗極低但是延遲很少的效能,整個解決方案都運行在手持平板上,就能不透過讀顯甚至也不用AI 加速卡,直接做影像辨識,這樣的運作模式的優點就與前述一樣,在時效性、運作效能及資安上都能有更好的表現。對無人載具上錙銖必較的電力節能更具直接效益.

　　三防加固型平板與車載計算機廠商攸泰科技大中華區業務總經理林海光認為,這種一般辨識由Edge終端快速解決,而需要大數據的由云端解決的配合模式,將成為接下來人工智能產業應用的發展趨勢,而外界也認為,這個趨勢將會讓AI 硬件業者與軟件算法之間,出現越來越頻繁的直接合作關系。AI 加速卡與新世代的CPU/GPU 優化進步程度已經成熟到可以落地. 2019 的8代Core i + openVINO, 2010 的M.2 2242 Intel Movidius Myraid X 與Google TPU 都不失為好方案, 與Jenson TX2/Nano 這類GPU導向的有所區別。

　　更多技術探討可以發送郵件至ryan_lin@ubiqconn.com,或拔打400-690-2151,我們竭誠為您服務。

　　該文觀點僅代表作者本人，如有文章來源系網絡轉載，本網系信息發布平臺，如有侵權，請聯系本網及時刪除。