Deep Learning Inference IC Technology
技術簡介
深度學習(DL)推論加速晶片化,是人工智慧(AI)產業化的關鍵技術。工研院目前可提供客製化深度學習加速器,全原始碼軟硬體;能支援多種深度神經網路(DNN)功能的硬體加速處理器、與其對應之軟體工具套件,是一套完整的DNN推論加速系統。
這套系統將會依據國際最新的DNN設計框架(frameworks)、開源的交換格式、最佳化的訓練超參數(hyper-parameter)與硬體加速器精度調整等技術,加速AI晶片設計,提供快速建構自主的AI系統解決方案。

DNN推論加速系統
技術特色
- 整合新興深度學習和傳統機器學習優點, 提供可調整資源的DNN加速器硬體和開發軟體。
- 可根據DNN模型與效能目標調整硬體規格
- 根據軟硬整合的適應性超參數優化結果,提供DNN推論系統軟硬整合方案。

DNN推論系統軟硬整合方案
技術規格
- 可變資源的DNN加速器
- DNN加速器開發工具
- 典型影音應用系統
- 細部技術規格:
可變資源的DNN加速器:
- Variable processing element number: up to 1024
- Variable on-chip memories: up to 512KB
- Configurable NN functions
DNN加速器開發工具:
- Parser and simulator
- Optimizer and compiler
- Precision refinement tools
應用系統:
- Sound and image tracking system
- Surveillance and identification system
應用範圍
IC設計、智慧識別、智慧製造、智慧監控等應用系統、嵌入式邊緣運算系統。