技術探索

特化AI晶片於智慧製造之邊緣運算應用

工研院資通所 鄭琮生、林順傑

智慧製造的時代來臨,原本機械自動化生產的產線已不足以應付市場競爭,因此原本機械自動化生產的製程設備,必須加入各式感測器來收集工廠機械的各種資訊,將資料標準化之後匯集整理到伺服器,再進一步分析與處理。一個完整的智慧製造整合系統包含數據蒐集、監控、分析、決策等,亦即可以從底層資料的蒐集、圖像化顯示、進而結合排程、進銷存系統等,再加上AI分析以輔助決策者快速做出正確決策,然而AI不僅可以用於雲端的決策段,透過Cloud-Edge架構,也可以將AI技術應用在產線的現場段,而且可以更即時的做出反應;而特化AI晶片只針對某些特定功能進行優化,屏除不需要的部分達到高效、省電的特性,適合應用於智慧製造Edge的應用。

智慧製造系統架構

現有的智慧製造各式生產設備之即時資訊可透過安裝感應器、PLC資料擷取或是透過本身即具備的資料傳輸功能取得,再經過標準化後匯集到SCADA系統進行資料整理、圖像化史資料易於閱讀,以掌握全廠的生產數據,而MES則負責從接獲訂單、進行生產、流程控制到產品完成過程中的生產資料以及排程,ERP負責財務、物流、人力資源等資料,BI進一步處理企業中現有數據,並將其轉換成知識、分析和結論,輔助業務或者決策者做出正確且明智的決定。系統關係架構如圖 1 智慧化生產系統架構所示。

圖1  智慧化生產系統架構圖1 智慧化生產系統架構

Cloud-Edge架構

根據工研院產科國際所統計調查,品質與良率仍然是目前台灣製造業者最重視的議題,傳統的處理方式為將資料傳送至雲端伺服器再進行分析運算,然而隨著產線智慧化需求的發展,所需蒐集的資料點位(Target)大量增加這樣的架構過程中,逐漸遇到瓶頸,在網路頻寬、通訊延遲、資料安全等限制因素下,實際的工廠運作現況當中,業者將現場段的生產數據視為最高機密,通常不願意將其送至雲端,因此將資料初步計算與推論運算的任務轉移至終端裝置或就近的網路設備上為最佳方案,也就是所謂的邊緣運算(Edge computing)。簡而言之,邊緣運算在傳統雲端與裝置端的連接中間多了一層運算層「Edge」作為靠近數據源的運算單位(圖 2 ),包括閘道器、路由器,以及各種機器、裝置、設備等可進行預算之底層硬體。Edge 端直接針對多裝置上的訊息先做擷取、過濾與前處理,對裝置端即時做出回饋與反應,不用讓所有資料都上到雲端,以減少資料上雲端所帶來的時間延遲與資料傳輸/儲存成本,而因資料已事先經過前處理,所以可以避免原始資料外洩,也較易被業者所接受。

圖2  雲端+邊緣運算架構圖2 雲端+邊緣運算架構

而國際大廠也都對此一架構提出了新的產品規劃,微軟於2018開發者大會提出了「智慧邊緣(Intelligent Edge)」的未來發展布局,讓機器學習、認知服務、影像處理分析等能從雲端下載至 Edge 端運行。而AWS 也積極布局 Lambda Edge,在邊緣節點無伺服器的情況下就能跑機器學習、Lisp 模型,進行簡單訓練推理,Google則於2019推出 Android Things 1.0,將物聯網開發工具與 Android系統結合,並開發相關的軟硬體設備以加速開發。

智慧工廠所面臨的AI Edge運算需求

工研院資通所在智能製造領域深耕多年,協助多家企業進行升級,除一般數值的分析推論之外,也將邊緣運實際運用於智慧工廠之實際生產線上。透過邊緣運算可以讓工廠的邊緣裝置具備反射(數位)神經能力,對事件立即判斷及回饋動作,降低危害,因此從視覺、聽覺、力覺、觸覺、嗅覺等人類感知行為上也可探知智慧工廠產線應用方式,例如,視覺可以影像感測器進行圖形畫面即時成像並在檢測端完成分析、聽覺可透過微機電麥克風達到背景雜訊抑制效果進行設備端即時地運作效率監診、力覺常用張力、慣性或扭力感測器等,進行運動軌跡或速度等變化紀錄或是觸覺以感測器感受觸覺或壓力感的雙向回饋以協助機器人手臂等即時現場作業應用、而嗅覺則以氣體感測器進行濃度檢測,協助現場公安即時偵測與警報反應,如此可以減低現場人員工作負荷以及進入危險場域。

但傳統的邊緣運算架構運用於智慧工廠上仍有一些問題需要克服,因為工廠內的生產設備多且複雜,高溫、多塵、油汙噴濺的環境也不利於一般的電腦設備長時間運行,因此目前多採用工業電腦或是設備機上盒作為Edge端的平台,雖然邊緣運算對於效能的要求不需要如伺服器般的強大,但仍需具備一定效能以上才能達到即時反應之目標。以臉部辨識的門禁系統為例,預計1秒內必須完成推論(拒絕或允許進入),而非10秒後才得知結果;或是產線上的品質檢測需注意是否合於標準,必須在1秒內完成推論(通過或淘汰),因若超過1秒,產線就已進入下一個工站而無法處理。即時推論需求的系統仍需具備足夠的運算能力,因此多以工業電腦為主,以目前常用於廠內Edge運算的CPU (Intel Atom E3950)為例,功耗約為12W,而一個工廠內可能需要佈建數百台Edge,累積的電力消耗以及產生的熱量都將十分驚人,若改採用專用的Edge AI晶片,將可在不影響推論效能的情況下大幅減少電力的消耗。Edge AI推論專用晶片就是為了省電與推論運算的專用加速而設計,例如 Intel、Google 的晶片是訴求在前端使用,因此在功耗上都遠低於傳統的CPU,且因工廠設備上的需求較為專一,無須傳統CPU的兼容性運算,所以AI晶片將會更適合應用在智慧製造的場域。

表格 1 運算晶片功耗比較表

廠牌/型號 TDP
Intel Atom E3950 12 W
Google Edge TPU 1.8W
Intel Myriad X 1.5W

特化應用AI晶片於智慧製造之應用案例

AI晶片在面對產品輸出外觀檢測應用所考量的關鍵因素,包括檢測的執行速度、準確性、可追溯性及成本等。尤其對於汽車及航太產業來說,品檢的可追溯性具有特別性要求,故如何結合AI晶片技術提高執行速度與準確性,是未來智慧檢測應用的新焦點。為此工研院資通所智能製造所團隊已發展虛擬檢測員(Virtual Quality Inspector, VQI)外觀瑕疵檢測技術,可從大量正常影像建立模型,並檢測與正常影像差異過大的影像,藉此避免未知的缺陷被分類器誤放,並能整合多種分類器來降低已知缺陷之誤判率,並依據現場作業檢測複判精度動態調整偵測靈敏程度。目前已在PCB與軟板業電路瑕疵檢測、組裝業機構外觀瑕疵檢測、太陽能業電池Cell瑕疵檢測、紡織業驗布機布面瑕疵檢驗、重工業管線焊接X光品質檢測、及電纜業銅線生產斷線偵測,協同機器手臂標記自動化,可降低人工複判次數50%以上,改善品檢效率程度達40%以上,檢測速度可達0.1秒/張,未來晶片化後可再將檢測速度提升數倍以上,並能降低硬體佈建成本。而AI晶片在設備運作品質檢測應用上所考量的關鍵因素,則包括檢測的敏感度、預警可靠性、反應時間及佈建成本等。以空壓機系統為例,軸承磨損時候的電流變化不大,直到燒掉瞬間電流升高,然後馬上燒掉,故需要故障預警即時自動切換啟動,避免產線停擺。除了設備故障會引起產線停擺、維修人員無法即時維修、設備部準備料件需要時間,這些都是浪費更高的成本外,對於化工業、金屬加工業甚至有引起公安危險的可能。國際上如日本發那科(Fanuc)為首發起ZDT(Zero Downtime)計畫,利用工業機器人上的感測器收集資料,在故障發生或即將發生時,立即回饋故障原因及位置,讓當機時間縮減到最短的技術,而瑞典金屬刀工具製造商Sandvik Coromant將機器學習直接使用在工廠設備前端,來加快異常事件預警的反應時間(2秒->0.1秒),故如何結合AI晶片技術提高感知靈敏性與反應速度是未來設備檢測應用的新焦點。為此工研院資通所智能製造所團隊已發展設備管家(EquipKeeper)設備效能分析技術,僅需蒐集正常運轉狀態數據,即可建立模型,關注「逐漸轉變為不健康的過程」,達到預防保養目的,並搭配非監督式人工智慧演算法,由歷史數據自動決定最佳模型參數,如利用維修保養後的短時間訊號,自動更新模型,提供綠黃紅燈號,顯示設備健康狀態指標,以及參數控制靈敏度與可信度,因應實際場域需求調整,可於異常發生時診斷變因以及因子變異之機率值。目前已在鋼鐵業空壓機健康監診、電纜業排氣風車馬達健康監診、CNC加工業主軸健康監診與刀具壽命預估、測試業取放手臂傳動皮帶健康監診等應用上改善設備使用效率20%以上,並能於0.1秒內估算設備運作健康度,未來結合晶片化後可再將監診速度提升數倍以上,並能降低感測器佈建成本。

AI晶片於智慧製造之應用方向

智慧製造發展至今,工研院資通所整合了多種數位化科技有效提升了國內製造業的產能、良率與品質;而AI晶片則是當前新興的技術,具有低成本、低功耗針對特定推論功能具有高效能等優勢,配合Cloud-Edge架構,可以有效解決即時推論、降低耗電量、大量數據傳輸導致的網路壅塞等議題,可望更進一步的提升智慧製造的效能與運用的可能性。

參考文獻

AI晶片最新格局分析

https://ek21.com/news/1/130694/     

AI新科技時代,如何抓住第四次工業革命的機遇

https://ieknet.iek.org.tw/iekrpt/rpt_more.aspx?rpt_idno=199986199

AI邊緣運算專用晶片成產業焦點,多元分眾為主要趨勢

https://ieknet.iek.org.tw/iekrpt/rpt_more.aspx?rpt_idno=325015996

Edge AI晶片10大選擇考量要點

https://makerpro.cc/2019/09/10-points-for-the-evaluation-of-edge-AI-chip/

AI、5G 都靠它,邊緣運算夯什麼

https://medium.com/@trendforcemkt/f20ca4ff4b5d

各家專用型 AI 推論晶片同場較勁

https://makerpro.cc/2019/01/AI-inference-chips-come-out-one-after-another/