AC-Copilot: 面向深度學習加速器的協同設計工具鏈

智能晶片與系統研發中心
簡介

AC-Copilot 是ACCESS開發的一套面向深度學習加速器的應用-算法-硬件協同設計工具鏈。

  • AC-Copilot: 面向深度學習加速器的協同設計工具鏈
商品化機會
技術授權協議
解決方案

AC-Copilot可以幫助工程師在設計早期自動設計加速器硬體架構，並快速生成定製化編譯器和軟件工具。

創新技術
  • 神經網路架構搜索模組：針對特定應用領域，微調（fine-tune）神經網路架構。
  • 硬件感知的神經網路壓縮模組：根據快速架構模擬器的反饋，對神經網路進行低位寬量化和壓縮剪枝。
  • 硬件架構優化模組：包括加速器架構搜索、編譯和類比，探索硬體設計空間，減少全局數據訪問，優化推理性能、功耗和面積（PPA）。
主要成效
  • AC-Copilot 的神經網路架構搜索和硬件感知的網路壓縮模組在不犧牲準確性的前提下提高了推理速度。通過反覆運算搜索，架構優化模組通過模型編譯和硬件模擬，找到了最佳的架構配置，提升了算力和能效。
  • 通過 AC-Copilot 生成的商業級28nm Transformer 加速器晶片（AC-Transformer）在視覺Transformer的推理計算效率方面比某現有產品（8nm）提高了 16.3 倍，而在能效比方面比該產品提高了 7.2 倍。
獎項
  • 2024年第49屆日內瓦國際發明展銀獎
應用範疇
  • 開發AI加速器晶片

智能晶片及系統研發中心(ACCESS)是一所緊密協調並集世界級專家團隊的跨領域研究中心，專注於促進集成電路設計技術發展，並推動以數據爲本的嶄新運算模式及設計高效能的人工智能硬件平台，支撑一系列的人工智能應用。專用的人工智能晶片將是推動人工智能革命的關鍵，爲了應付市場對硬件的新興需求，ACCESS會致力推動香港成爲世界舞台上人工智能晶片及硬件設計的重要基地。

ACCESS的研究工作主要由四項研究計劃所組成，包括:

  • 突破硬件瓶頸的新興技術
    通過將矽兼容的新興技術與傳統的矽晶片技術相結合，解决存儲容量和數據傳輸帶寬不足的問題，突破人工智能硬件的發展瓶頸；
  • 架構與異構系統整合
    著重探討不同的創新架構與系統整合方案，實現從雲端到智能物聯網（AIoT）多種平台上的高效神經形態計算（Neuromorphic Computing）；
  • 人工智能輔助電子設計自動化
    利用人工智能技術開發更爲有效的設計自動化工具，同時利用這些高效的設計工具研發新的人工智能晶片； 
  • 硬件加速的人工智能應用
    針對典型的硬件加速新興應用，探索相應的系統架構和創新設計工具，提升硬件加速的整體效能，在人工智能硬件的性能和功耗效率兩方面取得突破。

有關更多資訊，請查看： https://inno-access.hk/

查詢
相關 創新技術