近日，北京航空航天大学集成电路科学与工程学院赵巍胜教授、张悦教授团队在高性能人工智能芯片研究领域取得重要进展，提出了一种面向边缘神经网络推理的动态稀疏感知阵列划分多宏拆分映射存算一体（Array Partition Multi-macro Computing-in-Memory, APM-CIM）芯片。该研究通过电路、架构与系统协同优化，突破传统存算一体架构在计算效率、多宏并行以及数据传输方面的瓶颈，实现了高性能、低功耗的边缘神经网络推理加速。相关成果以APM-CIM: An Array Partition Multi-macro CIM System with Dynamic Sparse Approximation for Neural Network Edge Applications为题，发表于集成电路设计领域国际顶级期刊IEEE Journal of Solid-State Circuits（JSSC）。
随着人工智能算法快速发展，神经网络模型规模不断增长，边缘智能设备对计算性能和能效提出了更高要求。传统冯·诺依曼架构中存储与计算分离导致的数据搬移开销，成为限制人工智能芯片进一步发展的重要因素。存算一体技术通过将计算操作直接融合于存储阵列内部，有望减少数据传输并提升计算效率。然而，现有存算一体系统仍面临计算周期随数据精度增加、多宏系统输入带宽受限以及系统级数据调度效率不足等挑战。
图1边缘端人工智能芯片挑战及本工作创新点
针对上述问题，研究团队围绕存算一体芯片从核心计算单元到多宏架构再到完整系统的关键环节，提出双输入位并行与动态稀疏感知、阵列划分多宏映射以及数据与任务协同管理等技术，实现了从电路、架构到系统的跨层协同优化设计。在此基础上，团队完成了40 nm CMOS存算一体芯片的研制与测试。芯片在INT8模式下实现67.63 TOPS/W的系统能效，并在VGG、MobileNet和ResNet等典型神经网络上保持较高推理精度，验证了所提出技术在提升计算效率、降低数据搬运开销及增强系统扩展能力方面的有效性，为高能效边缘人工智能芯片设计提供了新的技术路径。
在电路层面，团队提出双输入位并行计算机制，通过8T SRAM双读取通路在单周期内同步完成两组输入—权重乘加计算，使计算周期缩短约一半并提升数据传输效率。同时，针对神经网络中大量低贡献数据，提出动态稀疏感知机制，根据输入和权重高位特征在线识别并跳过低贡献乘加操作，并支持多档阈值动态调节，从而在推理精度、计算延迟与能量效率之间实现灵活权衡。
图2双输入位并行计算、动态稀疏感知机制及其电路结构
在架构层面，团队提出阵列划分多宏拆分映射方法，针对多宏系统输入带宽受限、数据加载与计算串行执行的问题，沿阵列行方向拆分输入与权重映射，使各存算宏仅加载当前所需数据分区即可启动计算，并在计算过程中同步加载下一分区，实现数据传输与阵列计算流水化重叠。该方法可减少多宏等待与资源空闲，使单宏和多宏计算延迟降低15%～37.5%，提升缓存带宽利用率和多宏并行计算效率。
图3阵列划分多宏拆分映射方案
在系统层面，团队提出动态位宽裁剪与数据任务协同管理机制，根据不同网络层计算结果的动态范围自适应确定8 bit裁剪窗口，在降低层间数据位宽、缓存容量和传输开销的同时保持推理精度。同时，通过数据管理器和任务管理器统一调度线性、非线性计算及片上数据传输，优化各模块间数据流与任务衔接，减少不必要的数据交互，降低存算宏向完整系统扩展过程中的性能损失。
图4动态位宽裁剪和计算任务调度方案
基于上述技术，团队采用40 nm CMOS工艺完成了APM-CIM芯片研制与测试。芯片集成多个全数字SRAM存算宏、全局缓存、局部寄存器、动态位宽裁剪模块、ReLU与池化模块，以及数据和任务管理单元，支持INT8和INT16神经网络计算。实测结果表明，芯片在INT8模式下峰值计算性能达到3.86 TOPS，存算宏能效达到82.62 TOPS/W，完整系统能效达到67.63 TOPS/W。由存算宏扩展至系统后，能效损失仅为18.14%。在神经网络测试中，芯片支持VGG、MobileNet和ResNet-18等典型卷积神经网络模型。其中，在CIFAR-10数据集上执行VGG模型推理时，实现89.95%的分类准确率、2.13 ms的推理延迟和34.0 mW的功耗，验证了该芯片在边缘人工智能计算场景中展现了良好的应用潜力。
图5芯片Die与性能表
该项工作由北航集成电路科学与工程学院、杭州北航国际创新研究院（学院）、自旋芯片与技术全国重点实验室合作完成，并得到了赵巍胜教授悉心指导。北航集成电路科学与工程学院博士生张伯均、杭州北航国新院王进凯副研究员为论文共同第一作者；杭州北航国新院王进凯副研究员、北航集成电路科学与工程学院张悦教授为论文共同通讯作者。该工作得到了国家重点研发计划、浙江省自然科学基金等项目支持。
文章原文链接：https://ieeexplore.ieee.org/abstract/document/11649852
