Deep Learning Inference IC Technology
技術簡介
深度學習(DL)推論加速晶片化，是人工智慧(AI)產業化的關鍵技術。工研院目前正研發支援多種深度神經網路(DNN)功能的硬體加速處理器、與其對應之軟體工具套件，將提供一套完整的DNN推論加速系統。
這套系統將會依據國際最新的DNN設計框架(frameworks)、開源的交換格式、最佳化的訓練超參數(hyper-parameter)與硬體加速器精度調整等技術，加速AI晶片設計，提供快速建構自主的AI系統解決方案。
DNN推論加速系統
技術特色
- 整合新興深度學習和傳統機器學習優點， 提供可調整資源的DNN加速器硬體和開發軟體。
- 可根據DNN模型與效能目標調整硬體規格
- 根據軟硬整合的適應性超參數優化結果，提供DNN推論系統軟硬整合方案。
DNN推論系統軟硬整合方案
技術規格
- 可變資源的DNN加速器
- DNN加速器開發工具
- 典型影音應用系統
- 細部技術規格：
可變資源的DNN加速器：
- Variable processing element number: up to 1024
- Variable on-chip memories: up to 512KB
- Configurable NN functions
DNN加速器開發工具：
- Parser and simulator
- Optimizer and compiler
- Precision refinement tools
應用系統：
- Sound and image tracking system
- Surveillance and identification system
應用範圍
智慧識別、智慧製造、智慧監控等應用系統、嵌入式邊緣運算系統。