AC-Transformer: 高能效的AI加速器芯片

智能晶片与系统研发中心
简介

ACCESS研发了一颗高能效的AI加速器芯片，支持端到端的Transformer和CNN推理，可用于多种图像和语言处理的应用中。

  • AC-Transformer: 高能效的AI加速器芯片
商品化机会
技术授权协议
解决方案

AC-Transformer 具有新颖的架构，结合了硬件友好的注意力机制来提高计算和带宽效率。

创新技术
  • 以原生硬件加速实现Transformer的典型操作数以达到较高的能效。
  • 两篇论文在DAC2024第61届设计自动化大会上发表。
  • 一篇论文被ISSCC2025「芯片奥林匹克」IEEE 国际固态电路会议接收。
主要成效
  • AC-Transformer通过对原始Transformer模型进行线性化和量化，高效取得了重大突破，将模型存储大小减少了5倍，计算工作量减少了45倍，同时确保了原有的精度并能在软硬协同设计的加速器上实现高效推理。
  • 新一代协同设计工具链，支持Transformer大模型神经网络的轻量化和网络分割，优化部署到一颗或者多颗加速芯片。
奖项
  • 2024年第49届日内瓦国际发明展银奖
应用范畴
  • 大型 AI 模型的边缘计算
  • 多模态AI系统

智能晶片及系统研发中心(ACCESS)是一所紧密协调并集世界级专家团队的跨领域研究中心，专注于促进集成电路设计技术发展，并推动以数据为本的崭新运算模式及设计高效能的人工智能硬件平台，支撑一系列的人工智能应用。专用的人工智能芯片将是推动人工智能革命的关键，为了应付市场对硬件的新兴需求，ACCESS会致力推动香港成为世界舞台上人工智能芯片及硬件设计的重要基地。

ACCESS的研究工作主要由四项研究计划所组成，包括：

  • 突破硬件瓶颈的新兴技术
    通过将硅兼容的新兴技术与传统的硅芯片技术相结合，解决存储容量和数据传输带宽不足的问题，突破人工智能硬件的发展瓶颈;
  • 架构与异构系统整合
    着重探讨不同的创新架构与系统整合方案，实现从云端到智能物联网（ AIoT ）多种平台上的高效神经形态计算（ Neuromorphic Computing ）;
  • 人工智能辅助电子设计自动化
    利用人工智能技术开发更为有效的设计自动化工具，同时利用这些高效的设计工具研发新的人工智能芯片;
  • 硬件加速的人工智能应用
    针对典型的硬件加速新兴应用，探索相应的系统架构和创新设计工具，提升硬件加速的整体效能，在人工智能硬件的性能和功耗效率两方面取得突破。

有关更多信息，请查看：https://inno-access.hk/

查询
相关 创新技术