7月4日下午13时,由北京大学集成电路学院、集成电路高精尖创新中心、北京大学国家集成电路产教融合创新平台、集成电路科学与未来技术北京实验室、后摩尔时代微纳电子学科创新引智基地联合主办的暑期课程《集成电路设计技术与产业应用发展》第二节课在线下成功举办。本期邀请到知存科技CEO王绍迪为大家带来主题为“AI算力时代存算一体芯片的发展和应用”的报告。北京大学博雅特聘教授叶乐主持讲座。
王总围绕非易失类存储器的存内计算算力和应用发展,以AI大模型的应用背景和传统计算架构内存墙问题作为切入点,首先介绍了以NVDIA、AMD和三星为代表的近存计算架构的特点,指出其在大模型应用下系统性能仍然受限于访存带宽的问题,然后指出了存内计算架构在AIGC等大模型应用下具备更低成本、更低功耗、更高算力的技术优势和潜力。
然后,王总阐述了模拟存内计算的原理以及FLASH存内计算在GPT等应用方面的优势,并介绍其公司独创的FLASH存内计算芯片与先进工艺SoC芯片之间通过3D键合集成的存内计算架构,同时向大家分享了其带领的团队针对存内计算设计中面临的工艺涨落波动、编程误差、模拟电路可靠性等问题提出的一系列解决方案。
最后,王总补充介绍了存内计算在数据中心应用面临的一系列挑战,包括大模型的运算精度如何验证、在服务器环境下的高低温运算精度如何保证、如何解决高温环境下的老化问题等,并向大家展示了公司设计的WTM-8系列针对移动设备计算图像的存内计算芯片产品。关于未来的发展规划,王总指出,公司将持续推进底层工艺的进步,致力于实现更多比特与更稳定的信息存储、更高密度集成与更高速度的计算。
在提问环节,王总就模拟存内计算阵列设计、算法与电路之间的映射、如何降低系统访存开销等方面与大家进行了深入的讨论和交流。
【个人介绍】
王绍迪,北京大学微电子学士,UCLA电子工程博士。知存科技创始人兼CEO。2017年提出随机存算一体计算架构,作为第一发明人,赢得590万美元项目。发表国际学术文章30余篇,获得中国授权发明专利20余项,美国授权发明专利4项,2017年创立知存科技,专注于存算一体芯片产业化。获得国家万人计划-科技创业领军人才,教育部优秀自费留学生奖学金,第十一届中国青年创业奖。
【企业介绍】
知存科技创立于2017年,专注存内计算芯片领域,创新使用Flash存储器完成神经网络的储存和运算,解决AI的存储墙问题,提高运算效率,降低成本。研发团队由王绍迪博士与郭昕婕博士联合多位学者、产业从业者组建,平均拥有10年以上产业工作经验。公司旗下WTM2101芯片适配低功耗AIoT应用,可使用微瓦到毫瓦级功耗完成大规模深度学习运算,可应用于智能语音、智能健康等市场领域,目前已完成批量生产和市场应用。WTM8系列芯片面向6-48Tops算力产品,应用于4K-8K视频的实时处理。公司于2022年入选GTIC中国AI芯片企业50强,被评选为国家级高新技术企业,公司旗下产品被评选为2023中国IC设计成就奖年度最佳SoC。