工研院產科國際所 范哲豪

全球從PC和手機邁向物聯網(IoT)與人工智慧(AI)科技時代，AIoT應用興起，掀起新一波典範轉移，半導體仍是關鍵技術，扮演核心角色。

AI產品的改變，帶給半導體產業很多機會跟挑戰，AI產品目前看不到Killer Application，但AI運算需要運算力，且AI產品少量多樣，在晶片設計上是非常有挑戰的。
2015年之前，AI應用主要聚焦在雲端伺服器；近年來由於中階智慧手機整合AI功能、企業伺服器加入AI加速器、自駕車、智慧監控攝影機，以及高階超薄筆電和平板加入AI臉部辨識功能等進階技術，個人終端裝置應用市場抬頭；預計在2023年，個人終端裝置的AI產值將是2018年的7倍之多，成長力驚人。

表1 AI相關半導體產值

目前在AI裝置端的產品可分為八大應用：智慧駕駛車、智慧型手機、智慧手錶、智慧家電、智慧監控攝影機、AR／VR、商用無人機和機器人，對台廠而言，都是很好的切入點。

圖1 AI裝置端產品之八大應用（資料來源：工研院產科國際所）

不同於過去PC或手機時代有很明確的產品模式，如電腦的Wintel架構、手機的Android或iOS系統，如今，AI裝置端產品強調的是少量多樣且應用分散，對晶片的要求自然也大不相同，例如智慧監控攝影機需可應用在AR眼鏡、街景拍攝、機器人等產品上，除了皆有省電要求外，AR還需要小尺寸封裝，街景拍攝有價格考量，機器人則需具備高效能運算等，種種需求讓台廠進入AI終端裝置的門檻更高。

新興AI應用產品與場域

例如：新創公司Eyecloud.ai成立於2017年12月，公司總部位於美國矽谷，推出的智慧辨識AI監視器甫獲得CES 2019 獎項，此監視器為全在裝置端處理相關AI工作，沒有任何影片或圖片上傳到雲端。藉由使用AI深度學習算法，可只檢測人形相關活動，降低誤報率。而普通監控攝影機都是用紅外線觸發，只要有貓狗、樹葉、窗簾移動都會報警。另外，在監視器設備端提供「移動檢測」、「人形檢測」、「人臉識別」三種不同報警程度的安全監控級別，且待機時間可長達半年以上。

圖2 CES 2019得獎智慧辨識AI監視器（資料來源：Eyecloud.ai）

在2019 CES Asia展會上，加拿大新創公司紐洛斯（Nuralogix），主打能在30秒內透過鏡頭觀察臉部血流變化，檢測出心率、血壓、壓力、心血管健康狀況和健康風險等指標。平均每天有上千名觀眾湧向攤位，搶著體驗「AI魔鏡」。

在2019 倫敦科技周展會上，微軟則展示了AI 冰淇淋餐車，主要是使用Azure認知服務中的Emotion Recognition API進行此特定部署。它的工作方式是你走到一個冰淇淋亭，讓安裝在那裡的相機作為AI設置的一部分來檢測你的臉。然後，將向您展示一系列圖像，包括一棵樹和某處漂亮海灘的圖像，並將捕捉您的反應。然後，這將計算您的年齡，性別和心情，以建議冰淇淋選項。所有獲得的圖像資料，在處理完冰淇淋建議後都會被刪除。此展會期間，有44％的使用者推薦香草口味，26％推薦草莓口味，23％推薦檸檬冰沙。另外AI還能檢測到冰淇淋購買者的年齡--44％在30-45歲年齡組中，47％在18-30歲年齡組中，只有4％在45到60歲年齡組年份。此外，65％為男性，35％的冰淇淋買家為女性。

傳統的智慧音箱，也有了不一樣的應用。美國華盛頓大學透過智慧音箱，蒐集人們睡覺產生的聲音，如打鼾等。再以機器學習演演算法分析，識別瀕死呼吸的正確性高達97%。此原始資料是從西雅圖緊急醫療服務部門的162個實際911電話中獲取的。另外再利用機器學習技術，研究人員創建了額外的音訊資料，將資料集增加到總共7316個。

上述的的AI新興應用分別包含了影像/聲音辨識、分析/推薦等不同的AI功能，所需要的裝置端AI晶片也都各不相同。

歸納AI終端裝置運算的三大應用場域，第一是智慧建築(building-scale)，包含工廠內部影像辨識、機器人控制、機台數據分析、預測維護等….。其次是智慧家庭/個人(room-scale)，包含家庭內如智慧音箱、智慧家電、AR/VR頭盔等….。最後是智慧城市(city-scale)，包含自駕車、無人機、自走載具、街頭監控系統….。

台灣IC設計業者以結盟方式打團體戰

未來裝置端AI晶片大致上需要幾項新技術，首先是可重組之半通用AI晶片架構，根據特定應用所需的類神經網路架構，找出通用處，將其硬體化；而非通用性部分，以可軟體編程方式處理，在晶片效能與設計彈性上取得平衡。其次是以封裝形式將CPU、GPU、記憶體、ASIC等各類型的AI晶片異質整合，晶片集成封裝技術「Chiplet」，也是一種解決方式。第三，便是基於記憶體內的AI運算方式。此外，類比式或混合式人工智慧邊緣運算晶片也是下一個發展重點。由於晶片架構上的改變，相對應的軟體與開發工具也必須要重新開發才能支援。

目前已有多起台灣IC設計廠商跨國合作的案例，例如，鈺創積極與AI新創企業合作，除Lucid合作共同開發3D感測開發者工具套件，並與耐能智慧(Kneron)共同開發終端AI的3D感測解決方案。威盛(VIA)則與Lucid合作，聯手開發Qualcomm APQ8096SG 嵌入式處理器驅動的 Edge AI 3D 開發套件，增加雙鏡頭以上終端設備的AI 深度感知功能。神盾聯手新創公司AIStorm共同開發人工智慧（AI）技術，未來將有機會導入人臉辨識演算法技術當中，甚至可望同步應用在光學指紋辨識等解決方案。奇景光電與其收購的以色列全資子公司Emza，合作推出WiseEye 2.0筆記型電腦智能視覺解決方案。

台灣裝置端AI晶片能量，可透過下列七項策略逐步厚植實力：

1. 策群力：藉由AITA聯盟，跨業結合加速AI產業鏈成形。串接大型企業與潛力新創。
2. 重創新：針對半通用AI晶片、異質整合AI晶片、新興運算架構AI晶片與AI晶片軟體編譯開發，提供次世代AI關鍵智財解決方案。
3. 建標準：創立驗證平台與介面整合標準。
4. 建場域：建立系統整合之示範性應用。
5. 重隱私：做到同時注重隱私，又可以透過人工智慧的發展減少人力與增加便利性。利用人工智慧在終端裝置的運算保障隱私與資安。
6. 借外力：台灣人工智慧要成功，可藉站在巨人肩膀上開始。鏈結雲端平台業者，如微軟與Google等公司。
7. 續領先：利用台灣半導體領先優勢開發AI晶片，維持半導體產業全球領先地位。

未來的AI晶片設計走向

要開發出具競爭力的AI晶片，其核心競爭力是對應用的垂直領域具備深刻的理解，才能開出具有高性能、低功耗、高安全、多連接，生態、服務、性價比的晶片。以打群架方式進入AI產業是較為合適的，台灣半導體業者擅長IC硬體設計，因此已有多起與國外AI新創公司合作開發電腦視覺或3D感測之案例。台灣也已成立台灣AI晶片聯盟(AITA)，預期產生1+1>2之效果。

由於未來的AI晶片，會走向可重組來適應不同演算法、異質整合不同的感測器，及需要共同的介面標準來介接不同廠商之產品，還會需要整合多顆 AI 晶片來擴增運算力，長遠來看，新興架構的記憶體內運算，甚至是類腦的類比運算都是必須布局的技術項目，當然，上述的這些技術免不了都需要相對應的軟體來支援。由於這些項目涉及到新興元件的開發、共通介面的制定，都不是一兩家公司就可以獨立來完成的。因此，成立國家級的示範計畫，來完成上述工作，就顯得有其必要性

另外，台灣 AI 晶片產業可能發展的方向有 : 1. AI 晶片的開發是非常應用導向的，影像相關產品是應用範圍最廣的載具，可由應用回推開發晶片所需效能。 2. 產官學研一起投入新興運算架構的開發。 3. 強化系統與軟體的人才培訓。

未來的智慧電子系統的功能差異化，很大部分會取決於 AI 晶片的架構。能掌握此趨勢的廠商才能保有競爭力。