7月10日下午13时,由北京大学集成电路学院、集成电路高精尖创新中心、北京大学国家集成电路产教融合创新平台、集成电路科学与未来技术北京实验室、后摩尔时代微纳电子学科创新引智基地联合主办的暑期课程《集成电路设计技术与产业应用发展》在线下成功举办。本期邀请到后摩智能公司首席架构师赵亦彤为大家带来主题为“基于存算一体的AI加速器设计——从管子到神经元的中庸之道”的报告。北京大学叶乐老师主持讲座。
赵总围绕首款量产存算一体智驾芯片,物理算力256TOPS、典型功耗35W的后摩鸿途H30芯片,从存算一体的驱动力:存储墙问题;存内计算芯片的电路和算法层面挑战;H30芯片的设计实现三部分展开。探讨了基于存内计算定制电路芯片在人工智能算法蓬勃发展的当下的设计思路与实现方案。
在存算一体的驱动力:存储墙问题这一部分中,赵总从物理角度分析了造成存储墙问题的原因,对比了不同的存储和计算组织架构,引出了存内计算的概念:通过将数据存储单元和计算单元距离拉近、互相融合,从而提升访存带宽、减少访存功耗的技术。
然后,关于存内计算芯片的电路和算法层面挑战,赵总谈到了针对存内计算定制硬件电路在电路和架构层面挑战。以及在人工智能算法呈现指数式发展的背景下,对芯片通用性、可扩展性和前瞻性的强烈需求。
最后,关于H30芯片的设计实现,赵总介绍了MacroGroup+RVV+Tiling整体架构设计、MulticastD_Ring拓扑结构和从CIMMacro到Cluster分布与集中的“中庸之道”设计思想等内容,为同学们的科研开展带来了极大启发。
在提问环节,赵总就存内计算人工智能芯片应用前景、CIMMacro设计细节、编译器开发和并行化方案等方面与大家进行了深入的讨论和交流。
【个人介绍】
赵亦彤,后摩智能AI处理器首席架构师。主导了后摩H30大算力存算一体的设计工作。该芯片基于存算一体创新架构,提供高达256TOPS物理算力,可大幅提升数据和计算单元的交互效率,可为智能驾驶,泛机器人等边缘场景提供强大的计算核心。AI计算数据处理时延相较传统芯片减少2倍以上,适用各类时延敏感型场景。
【企业介绍】
后摩智能创立于2020年,由吴强博士与多位国际顶尖学者和芯片工业界资深专家联合组建,是全球存算一体智驾芯片的先行者。基于先进的存算一体技术和存储工艺,后摩智能致力于突破芯片的性能与功耗瓶颈,加速智能驾驶技术的普惠落地。其提供的高能效比、低成本芯片及解决方案,可应用于智能驾驶、泛机器人等场景。2021年8月国内首款基于存算一体技术的验证芯片流片、2021年11月荣获科技部“全国颠覆性技术创新大赛优胜项目”、2022年12月完成高新技术企业认定;荣获2022中国芯“芯火新锐产品”奖、2023年5月国内首款存算一体智驾芯片后摩鸿途H30正式发布。