AC-Copilot: 面向深度学习加速器的协同设计工具链

智能晶片与系统研发中心
简介

AC-Copilot 是ACCESS开发的一套面向深度学习加速器的应用-算法-硬件协同设计工具链。

  • AC-Copilot: 面向深度学习加速器的协同设计工具链
商品化机会
技术授权协议
解决方案

AC-Copilot可以帮助工程师在设计早期自动设计加速器硬件架构，并快速生成定制化编译器和软件栈。

创新技术
  • 神经网络架构搜索模块：针对特定应用领域，微调（fine-tune）神经网络架构。
  • 硬件感知的神经网络压缩模块：根据快速架构模拟器的反馈，对神经网络进行低位宽量化和压缩剪枝。
  • 硬件架构优化模块：包括加速器架构搜索、编译和模拟，探索硬件设计空间，减少全局数据访问，优化推理性能、功耗和面积（PPA）。
主要成效
  • AC-Copilot 的神经网络架构搜索和硬件感知的网络压缩模块在不牺牲准确性的前提下提高了推理速度。通过迭代搜索，架构优化模块通过模型编译和硬件仿真，找到了最佳的架构配置，提升了算力和能效。
  • 通过 AC-Copilot 生成的商业级 28nm Transformer 加速器芯片（AC-Transformer）在视觉Transformer的推理计算效率方面比某现有产品（8nm）提高了 16.3 倍，而在能效比方面比该产品提高了 7.2 倍。
奖项
  • 2024年第49届日内瓦国际发明展银奖
应用范畴
  • 开发AI加速器芯片

智能晶片及系统研发中心(ACCESS)是一所紧密协调并集世界级专家团队的跨领域研究中心，专注于促进集成电路设计技术发展，并推动以数据为本的崭新运算模式及设计高效能的人工智能硬件平台，支撑一系列的人工智能应用。专用的人工智能芯片将是推动人工智能革命的关键，为了应付市场对硬件的新兴需求，ACCESS会致力推动香港成为世界舞台上人工智能芯片及硬件设计的重要基地。

ACCESS的研究工作主要由四项研究计划所组成，包括：

  • 突破硬件瓶颈的新兴技术
    通过将硅兼容的新兴技术与传统的硅芯片技术相结合，解决存储容量和数据传输带宽不足的问题，突破人工智能硬件的发展瓶颈;
  • 架构与异构系统整合
    着重探讨不同的创新架构与系统整合方案，实现从云端到智能物联网（ AIoT ）多种平台上的高效神经形态计算（ Neuromorphic Computing ）;
  • 人工智能辅助电子设计自动化
    利用人工智能技术开发更为有效的设计自动化工具，同时利用这些高效的设计工具研发新的人工智能芯片;
  • 硬件加速的人工智能应用
    针对典型的硬件加速新兴应用，探索相应的系统架构和创新设计工具，提升硬件加速的整体效能，在人工智能硬件的性能和功耗效率两方面取得突破。

有关更多信息，请查看：https://inno-access.hk/

查询
相关 创新技术