AC-Transformer: 高能效的AI加速器晶片

智能晶片與系統研發中心
簡介

ACCESS研發了一顆高效率的AI加速器晶片，支援端到端的Transformer和CNN推理，可用於多種影像和語言處理的用途。

  • AC-Transformer: 高能效的AI加速器晶片
商品化機會
技術授權協議
解決方案

AC-Transformer 具有新穎的架構，結合硬體友好的注意力機制來提高計算和頻寬效率。

創新技術
  • 以原生硬體加速實現Transformer的典型運算元以達到較高的能效。
  • 兩篇論文在DAC2024第61屆設計自動化大會發表。
  • 一篇論文被ISSCC2025「晶片奧林匹克」IEEE國際固態電路會議接收。
主要成效
  • AC-Transformer透過對原始Transformer模型進行線性化和量化，取得了高效的重大突破，將模型存儲大小減少了5倍，計算工作量減少了45倍，同時確保了原有的精度並能在軟硬協同設計的加速器上實現高效推理。
  • 新一代協同設計工具鏈，支援Transformer大模型神經網路的輕量化和網路分割，優化部署到一顆或多顆加速晶片。
獎項
  • 2024年第49屆日內瓦國際發明展銀獎
應用範疇
  • 大型AI模型的邊緣計算
  • 多模態AI系統

智能晶片及系統研發中心(ACCESS)是一所緊密協調並集世界級專家團隊的跨領域研究中心，專注於促進集成電路設計技術發展，並推動以數據爲本的嶄新運算模式及設計高效能的人工智能硬件平台，支撑一系列的人工智能應用。專用的人工智能晶片將是推動人工智能革命的關鍵，爲了應付市場對硬件的新興需求，ACCESS會致力推動香港成爲世界舞台上人工智能晶片及硬件設計的重要基地。

ACCESS的研究工作主要由四項研究計劃所組成，包括:

  • 突破硬件瓶頸的新興技術
    通過將矽兼容的新興技術與傳統的矽晶片技術相結合，解决存儲容量和數據傳輸帶寬不足的問題，突破人工智能硬件的發展瓶頸；
  • 架構與異構系統整合
    著重探討不同的創新架構與系統整合方案，實現從雲端到智能物聯網（AIoT）多種平台上的高效神經形態計算（Neuromorphic Computing）；
  • 人工智能輔助電子設計自動化
    利用人工智能技術開發更爲有效的設計自動化工具，同時利用這些高效的設計工具研發新的人工智能晶片； 
  • 硬件加速的人工智能應用
    針對典型的硬件加速新興應用，探索相應的系統架構和創新設計工具，提升硬件加速的整體效能，在人工智能硬件的性能和功耗效率兩方面取得突破。

有關更多資訊，請查看： https://inno-access.hk/

查詢
相關 創新技術