您的瀏覽器不支援JavaScript語法,但是並不影響您獲取本網站的內容。

趨勢觀點

AI產品引領晶片設計新方向

工研院產科國際所 范哲豪

全球從PC和手機邁向物聯網(IoT)與人工智慧(AI)科技時代,AIoT應用興起,掀起新一波典範轉移,半導體仍是關鍵技術,扮演核心角色。

AI產品的改變,帶給半導體產業很多機會跟挑戰,AI產品目前看不到Killer Application,但AI運算需要運算力,且AI產品少量多樣,在晶片設計上是非常有挑戰的。
2015年之前,AI應用主要聚焦在雲端伺服器;近年來由於中階智慧手機整合AI功能、企業伺服器加入AI加速器、自駕車、智慧監控攝影機,以及高階超薄筆電和平板加入AI臉部辨識功能等進階技術,個人終端裝置應用市場抬頭;預計在2023年,個人終端裝置的AI產值將是2018年的7倍之多,成長力驚人。

表1  AI相關半導體產值

表1 AI相關半導體產值

目前在AI裝置端的產品可分為八大應用:智慧駕駛車、智慧型手機、智慧手錶、智慧家電、智慧監控攝影機、AR/VR、商用無人機和機器人,對台廠而言,都是很好的切入點。

圖1  AI裝置端產品之八大應用(資料來源:工研院產科國際所)

圖1 AI裝置端產品之八大應用(資料來源:工研院產科國際所)

不同於過去PC或手機時代有很明確的產品模式,如電腦的Wintel架構、手機的Android或iOS系統,如今,AI裝置端產品強調的是少量多樣且應用分散,對晶片的要求自然也大不相同,例如智慧監控攝影機需可應用在AR眼鏡、街景拍攝、機器人等產品上,除了皆有省電要求外,AR還需要小尺寸封裝,街景拍攝有價格考量,機器人則需具備高效能運算等,種種需求讓台廠進入AI終端裝置的門檻更高。

新興AI應用產品與場域

例如:新創公司Eyecloud.ai成立於2017年12月,公司總部位於美國矽谷,推出的智慧辨識AI監視器甫獲得CES 2019 獎項,此監視器為全在裝置端處理相關AI工作,沒有任何影片或圖片上傳到雲端。藉由使用AI深度學習算法,可只檢測人形相關活動,降低誤報率。而普通監控攝影機都是用紅外線觸發,只要有貓狗、樹葉、窗簾移動都會報警。另外,在監視器設備端提供「移動檢測」、「人形檢測」、「人臉識別」三種不同報警程度的安全監控級別,且待機時間可長達半年以上。

圖2  CES 2019得獎智慧辨識AI監視器(資料來源:Eyecloud.ai)

圖2 CES 2019得獎智慧辨識AI監視器(資料來源:Eyecloud.ai)

在2019 CES Asia展會上,加拿大新創公司紐洛斯(Nuralogix),主打能在30秒內透過鏡頭觀察臉部血流變化,檢測出心率、血壓、壓力、心血管健康狀況和健康風險等指標。平均每天有上千名觀眾湧向攤位,搶著體驗「AI魔鏡」。

在2019 倫敦科技周展會上,微軟則展示了AI 冰淇淋餐車,主要是使用Azure認知服務中的Emotion Recognition API進行此特定部署。它的工作方式是你走到一個冰淇淋亭,讓安裝在那裡的相機作為AI設置的一部分來檢測你的臉。然後,將向您展示一系列圖像,包括一棵樹和某處漂亮海灘的圖像,並將捕捉您的反應。然後,這將計算您的年齡,性別和心情,以建議冰淇淋選項。所有獲得的圖像資料,在處理完冰淇淋建議後都會被刪除。此展會期間,有44%的使用者推薦香草口味,26%推薦草莓口味,23%推薦檸檬冰沙。另外AI還能檢測到冰淇淋購買者的年齡--44%在30-45歲年齡組中,47%在18-30歲年齡組中,只有4%在45到60歲年齡組年份。此外,65%為男性,35%的冰淇淋買家為女性。

傳統的智慧音箱,也有了不一樣的應用。美國華盛頓大學透過智慧音箱,蒐集人們睡覺產生的聲音,如打鼾等。再以機器學習演演算法分析,識別瀕死呼吸的正確性高達97%。此原始資料是從西雅圖緊急醫療服務部門的162個實際911電話中獲取的。另外再利用機器學習技術,研究人員創建了額外的音訊資料,將資料集增加到總共7316個。

上述的的AI新興應用分別包含了影像/聲音辨識、分析/推薦等不同的AI功能,所需要的裝置端AI晶片也都各不相同。

歸納AI終端裝置運算的三大應用場域,第一是智慧建築(building-scale),包含工廠內部影像辨識、機器人控制、機台數據分析、預測維護等….。其次是智慧家庭/個人(room-scale),包含家庭內如智慧音箱、智慧家電、AR/VR頭盔等….。最後是智慧城市(city-scale),包含自駕車、無人機、自走載具、街頭監控系統….。

台灣IC設計業者以結盟方式打團體戰

未來裝置端AI晶片大致上需要幾項新技術,首先是可重組之半通用AI晶片架構,根據特定應用所需的類神經網路架構,找出通用處,將其硬體化;而非通用性部分,以可軟體編程方式處理,在晶片效能與設計彈性上取得平衡。其次是以封裝形式將CPU、GPU、記憶體、ASIC等各類型的AI晶片異質整合,晶片集成封裝技術「Chiplet」,也是一種解決方式。第三,便是基於記憶體內的AI運算方式。此外,類比式或混合式人工智慧邊緣運算晶片也是下一個發展重點。由於晶片架構上的改變,相對應的軟體與開發工具也必須要重新開發才能支援。

目前已有多起台灣IC設計廠商跨國合作的案例,例如,鈺創積極與AI新創企業合作,除Lucid合作共同開發3D感測開發者工具套件,並與耐能智慧(Kneron)共同開發終端AI的3D感測解決方案。威盛(VIA)則與Lucid合作,聯手開發Qualcomm APQ8096SG 嵌入式處理器驅動的 Edge AI 3D 開發套件,增加雙鏡頭以上終端設備的AI 深度感知功能。神盾聯手新創公司AIStorm共同開發人工智慧(AI)技術,未來將有機會導入人臉辨識演算法技術當中,甚至可望同步應用在光學指紋辨識等解決方案。奇景光電與其收購的以色列全資子公司Emza,合作推出WiseEye 2.0筆記型電腦智能視覺解決方案。

台灣裝置端AI晶片能量,可透過下列七項策略逐步厚植實力:

1.策群力:藉由AITA聯盟,跨業結合加速AI產業鏈成形。串接大型企業與潛力新創。
2.重創新:針對半通用AI晶片、異質整合AI晶片、新興運算架構AI晶片與AI晶片軟體編譯開發,提供次世代AI關鍵智財解決方案。
3.建標準:創立驗證平台與介面整合標準。
4.建場域:建立系統整合之示範性應用。
5.重隱私:做到同時注重隱私,又可以透過人工智慧的發展減少人力與增加便利性。利用人工智慧在終端裝置的運算保障隱私與資安。
6.借外力:台灣人工智慧要成功,可藉站在巨人肩膀上開始。鏈結雲端平台業者,如微軟與Google等公司。
7.續領先:利用台灣半導體領先優勢開發AI晶片,維持半導體產業全球領先地位。

未來的AI晶片設計走向

要開發出具競爭力的AI晶片,其核心競爭力是對應用的垂直領域具備深刻的理解,才能開出具有高性能、低功耗、高安全、多連接,生態、服務、性價比的晶片。以打群架方式進入AI產業是較為合適的,台灣半導體業者擅長IC硬體設計,因此已有多起與國外AI新創公司合作開發電腦視覺或3D感測之案例。台灣也已成立台灣AI晶片聯盟(AITA),預期產生1+1>2之效果。

由於未來的AI晶片,會走向可重組來適應不同演算法、異質整合不同的感測器,及需要共同的介面標準來介接不同廠商之產品,還會需要整合多顆 AI 晶片來擴增運算力,長遠來看,新興架構的記憶體內運算,甚至是類腦的類比運算都是必須布局的技術項目,當然,上述的這些技術免不了都需要相對應的軟體來支援。由於這些項目涉及到新興元件的開發、共通介面的制定,都不是一兩家公司就可以獨立來完成的。因此,成立國家級的示範計畫,來完成上述工作,就顯得有其必要性

另外,台灣 AI 晶片產業可能發展的方向有 : 1. AI 晶片的開發是非常應用導向的,影像相關產品是應用範圍最廣的載具,可由應用回推開發晶片所需效能。 2. 產官學研一起投入新興運算架構的開發。 3. 強化系統與軟體的人才培訓。

未來的智慧電子系統的功能差異化,很大部分會取決於 AI 晶片的架構。能掌握此趨勢的廠商才能保有競爭力。