您的瀏覽器不支援JavaScript語法,但是並不影響您獲取本網站的內容。

趨勢觀點

AI裝置端產品與晶片之技術發展趨勢分析

臺灣人工智慧晶片聯盟 張世杰副會長
工業技術研究院 產科國際所 范哲豪

我國半導體產業在全球具舉足輕重的地位,若想要固本攻頂,勢必要在AI晶片產業上有更積極的作為。

前言

近年來人工智慧發展進入前所未有的高速成長期,所衍生之技術也陸續落實到一般大眾生活。從產業發展來看,AI已對現有的硬體、軟體、演算法、系統、商模等帶來快速革新,其影響遍及個人、社會、產業、政府,因此AI已成為產業或國家競爭力的指標。根據工研院最新發布的「亞洲2030前瞻科技調查」報告,未來十年亞洲最看重的前十大技術發展項目中,首選是AI/機械學習技術,也是目前我國發展的重要關鍵。

發展人工智慧(AI)技術,除須考量資料收集與處理、演算模式、應用需求等,硬體效能也是AI設計中非常重要的一環。因此不僅全球各大半導體業者均積極布局AI晶片相關技術與產品,全球幾個具硬體發展能量的國家,紛紛將AI晶片列為國家戰略發展目標,如美國在2018年開始了「美國電子復興計畫」,預計於五年之內投入15億美元。另一方面,中國大陸2017年提出「新一代人工智能發展規劃」,目標在2030年領先世界,以取得全球AI制高點。日、韓等半導體強國也都進行大規模的投資,以搶進全球AI強國之列,更牽動了AI晶片霸權新賽局。我國半導體產業在全球具舉足輕重的地位,若想要固本攻頂,勢必要在AI晶片產業上有更積極的作為。

資料來源:工研院產科國際所

圖1 各國政府皆已高度投入AI技術發展


資料來源:工研院產科國際所

圖2 全球AI晶片之產品布局


AI裝置端晶片技術發展趨勢及挑戰

過去AI運算主要是在雲端上進行,國際大廠在雲端的軟硬體系統皆大幅領先,我國過去擅長的產業優勢難以進入其市場。然而,在低延遲應用需求擴增、雲端傳輸成本過高及使用者隱私考量等因素下,AI推論運算的需求已由雲端逐漸轉移至邊緣端、裝置端上。2018年已有近四成企業規劃在邊緣端處理資料,預估2020年將有75%資料,幾乎都會在邊緣端來完成處理。

裝置端產品智慧化將是顛覆AI運算架構的新力量。開發裝置端AI晶片需滿足裝置端產品具備輕薄可攜、高省電性、離線智慧等特性。因此裝置端AI晶片技術具有以下的挑戰。

趨勢與挑戰一:裝置端AI晶片在功率限制下需要提升算力與應用彈性

提昇裝置端AI晶片的算力與使用彈性,可以增加更多應用服務的種類,例如臉部辨識解鎖,照相的品質增強,處理低照度具有雜訊的照片。顯示器也可以做更多種類畫面與畫質的增強效果處理。但一方面要提升算力,但另一方面又要兼顧耗電量,確實是發展AI晶片的技術難題。

趨勢與挑戰二:智慧物聯網(AIoT)產品少量多樣

智慧物聯網(AIoT)產品多屬長尾利基商品,各別市場數量可能不大,但只要能訴求正確的目標族群,則仍可能獲利。因此對AI晶片設計業者來說是機會(多樣性)也是挑戰(快速time to market)。少量多樣AI應用情境使我國IC公司面臨下線成本之門檻提高。此外多樣化產品要求提高晶片系統設計複雜度,更需要在短時間內完成,這些挑戰阻礙了國內廠商的投入。

資料來源:工研院產科國際所

圖3  AIoT產品具有少量多樣長尾市場特性,不一定有殺手級產品

趨勢與挑戰三:傳統的馮、紐曼架構亟耗電,需新AI晶片架構來導入裝置端

雲端的AI晶片解決方案,雖然效能強與彈性大,但耗電量也隨之大增。目前的AI晶片平均能耗大約是在1TOP/W,離人腦的500TOPS/W距離很遠,仍有很大的改善空間。這樣的AI晶片用在使用電池的設備上,操作時間勢必縮短很多,因此裝置端的AI晶片需要新的晶片架構,來達到省電的目的,至少也需要是減少十倍甚至是百倍的耗電量。



 資料來源:工研院產科國際所

圖4 嵌入式AI平台往人腦效率發展

趨勢與挑戰四:缺乏軟硬體整合能力

在發展裝置端AI晶片,多數廠商會面臨缺乏關鍵AI智財、缺乏軟硬體整合能力等問題。另一方面,國內廠商目前在AI晶片方面的發展較為單打獨鬥,缺少軟體技術、架構設計、以及軟硬體協同優化;然而AI的市場產品是較需要能快速開發並快速應用,著重於軟硬體整合能力。由於AI需要大量的運算能力,也跟採用的軟體演算法有密切的關係,因此如何在功耗、面積、效能等方面取得平衡,同時根據應用進行軟、硬體分工最佳化,都不純粹是靠過往的經驗就可獲得;再加上國內部份廠商的軟體技術能量稍嫌不足,都限制了業者的投入。

台灣產官學研一同攜手解決AI晶片技術問題

為呼應並協助解決產業界需求與痛點,同時也為了健全即時AI晶片的發展環境,期望以國內半導體產業優勢,與打造N+1 AI晶片的解決方案。行政院於2018年9月成立「AI on Chip示範計畫籌備小組」,規劃並聚焦產學研共識之技術研發項目。針對「半通用AI晶片」、「異質整合AI晶片」、「新興運算(Emerging Computing)架構AI晶片」與「AI晶片軟體編譯環境開發」等四個議題,制定我國AI on Chip發展藍圖。

一、成立AI on Chip示範計畫,解決裝置端AI晶片技術問題

對於各議題所發展的研發技術項目如下:

(一)半通用AI晶片:解AIoT少量多樣議題,協助 IC設計業者掌握自主具設計彈性(可重組、可延展)的裝置端AI推論晶片架構;同時聚焦於先業界一步的裝置端學習(On-Device Learning)AI晶片軟硬體技術。

(二)異質整合AI晶片:布局下世代AI晶片封裝技術,發展智慧裝置端系統熱控、多樣可適性異質整合、異質共用介面等技術,以協助我國IC產業鏈運用共通介面發展晶片的系統整合。

(三)新興運算架構AI晶片:對應產業布局下世代AI晶片技術,布局包括發展類比、記憶體內,及類神經新興運算架構,以大幅突破目前AI運算的效能瓶頸,並協助我國產業取得新興運算架構之發展先機。其中,新興架構晶片矽智財(Silicon Intellectual Property, SIP)可協助我國IC設計業立足於裝置端AI晶片產業,而新興架構技術平台,可協助半導體製造業加值既有相關製造技術,成果亦可帶動後續系統廠在系統應用上的創新。

(四)AI晶片軟體編譯環境開發:結合國內IC設計及系統軟體業者,制定共通介面,推動形成AI開發環境生態圈,降低業者投入AI領域的門檻;建立雛形系統,提供最適化的AI晶片設計分析環境,協助廠商以此為基礎,結合各自的技術特色,搶攻市場;開發先進編譯器技術,與國際EDA領導業者合作,整合快速驗證環境,縮短下世代AI晶片開發時程,充分發揮多樣化硬體效能,帶動國內產業轉型。



資料來源:工研院電光系統所整理

圖5  AI on Chip終端智慧發展技術發展藍圖

二、成立AITA聯盟,由業界命題,建立AI晶片核心技術

成立「台灣人工智慧晶片聯盟」(AITA; AI-on-Chip Taiwan Alliance,簡稱愛台聯盟),超過百家半導體業者共組四大技術委員會(SIG),串連裝置端AI晶片及系統應用。由業界帶頭發展關鍵技術,提供業者交流平台,以促成上下游廠商結盟為AI晶片找到出海口,促進台灣 AI 產業升級,並構築產業技術藍圖,引領 AI 商機。並透過業科以及技轉等方式,協助國內業者開發AI加速器軟硬體產品。


資料來源:AITA聯盟

圖6  成立AITA聯盟建立AI晶片核心技術

AI on Chip示範計畫及AITA的目標是讓業者能降低AI晶片研發費用、縮短AI晶片的開發時程,協助我國業者成為全球裝置端AI晶片產業的領航者。

結論

我國有半導體、ICT等強項,更是全球大廠信任的夥伴,這些優異條件奠定了發展裝置端AI晶片的優勢。AI on Chip示範計畫及AITA聯盟,將協助晶片設計業者掌握AI晶片彈性多工的自主設計能力,同時因應製造及封測業者對於少量多樣、快速產製的技術缺口。同時打造具備多工、彈性、低耗電之新興裝置端AI晶片架構,並建立起具國際競爭力的AI智慧系統生態系,除帶動半導體產業,亦同步帶動AI裝置端設備及系統整合業者發展更多應用服務。技術方面則是結合我國半導體設計與製造強項,協助IC設計業者取得國際領先,讓半導體相關產業名列世界前茅,最後更要將類比AI晶片推向全球頂尖,挑戰這極為艱難的目標。