科技創新(一百一十八):AIoT產業-從Core ML2與iPhone XS系列、XR的Neural Engine看邊緣運算

科技創新(一百一十八):AIoT產業-從Core ML2與iPhone XS系列、XR的Neural Engine看邊緣運算

[蘋果的新手機發表了 人工智慧邊緣運算能力令人驚艷]
蘋果的新手機上週發表了,新版的iPhone XSXS max以及XR三種,而其中都附有A12 Bionic晶片,其中有6核心CPU4核心GPU ,以及8核心運用於人工智慧邊緣運算的Neural Engine,相較於iPhone X的A11 Bionic的雙核心Neural Engine,人工智慧推論運算能力強大很多。
圖:取自Youtube

 


iPhone X應用A11 Bionic成了最先上市的應用人工智慧邊緣運算的智慧型手機,它的使用人工智慧的影像辨識的解鎖手機螢幕的功能,開啟人工智慧邊緣運算的風潮,今年的新手機更是強化了這個能力,達到了兩個功能:1. 在手機端處理更多的深度學習的神經網路任務運算。2.CPUGPU之間做更好的工作分配。
[結合Core ML 2的能力 新手機上的應用人工智慧APP能力強化]
Apple為了強化手機上的軟體,提出了Core ML的人工智慧邊緣運算架構,而這樣的架構在今年64日提出了Core ML第二代,在同樣運算能力下,Core ML 第二代速度比第一代快了30%,而且可以跟Facebook CaffeCaffe2Kerasscikit-learnXGBoostLibSVM,以及GoogleTensorFlow Lite框架配合使用;同時另外提出了支持GPU的加速工具Create ML,用在Mac電腦上進行人工智慧模型的訓練,這樣可以讓iPhone手機上的應用人工智慧APP能力強化。
結合以上A12 BionicCore ML的資訊,可以得知今天蘋果想要在終端強化人工智慧運算能力的意圖,而透過Create MLMac環境下,就可以創造和訓練自定義機器學習模型,而算出的模型的推論引擎,會在A12 Bionic上用硬體及Core ML 第二代軟體加速,以在iPhone X S系列與iPhone X R 手機上有更好的表現,也為了達到這個目的,同時晶片體積能夠很小,這次的A12 Bionic晶片才破天荒地使用了最先進的台積電的7奈米製程。而這也展示了蘋果在邊緣人工智慧運算的進度領先各大公司,而在這些新手機上應用人工智慧的APP,相信將有很不錯的表現。
[各大廠商競相推出Edge端與雲端人工智慧加速晶片 整合後效率強化可期]
之前Google宣告了Edge TPU ASIC晶片,將結合雲端的TPU針對TensorFlow的超快速運算;而Google 雲端的對手AWSMicrosoft都決定要製作自己系統的雲端人工智慧加速晶片;另外中國大陸華為結合寒武紀的邊緣人工智慧晶片麒麟 970的榮耀系列手機;台灣的聯發科旗下的人工智慧平台 NeuroPilot 已經支援 Google Android 人工神經網路技術(Android Neural NetworkANN),更加入了由亞馬遜、微軟及臉書的ONNX聯盟,準備針對這個框架做對應加速晶片;連nVIDIA都跟艾睿電子合作,共同推出針對人工智慧與機器人,以及邊緣運算所量身設計的 NVIDIA Jetson Xavier 電腦;加上之前提到的蘋果最新手機的A12 Bionic的邊緣運算實力,從這些資訊中,可以看出接下來各大廠商會在邊緣運算上不斷強化,更甚者會結合雲端運算透過FPGAASIC加速對應框架(如TensorFlowONNX)加速運算效率,讓人工智慧深度學習的運算速度與邊緣運算應用不斷強化。
在這個趨勢之下,台灣的半導體設計廠商,除了聯發科有較大動作之外,其餘的廠商需要找出自己的利基,設計出好的人工智慧邊緣運算晶片,而加入ONNX聯盟或跟nVIDIA合作,是不錯的選擇。

裴有恆

現為昱創企管顧問有限公司總經理,多家公司的顧問、新北市工業會會務顧問與生產力4.0委員會委員,以及多家媒體的科技專欄與特約作家,同時也是趨勢觀察者。講授與輔導課題有物聯網、人工智慧、Fintech、工業4.0、大數據、產品創新、服務創新、商業模式創新與專案管理。現在同時也是Google查詢物聯網顧問、物聯網教練、AIoT教練、物聯網講師丶AIoT教練丶AIoT 顧問丶數位轉型教練丶數位轉型講師人名第一名。

發佈留言