云天励飞发布14nm Chiplet大模型推理芯片：为国内首创

"大模型时代，AI推理芯片是应用落地的关键承载体。"

本文为IPO早知道原创

作者｜Stone Jin

据IPO早知道消息，云天励飞于2023年11月15日的高交会开幕式上发布了新一代AI芯片DeepEdge10。

值得一提的是，DeepEdge10是国内首创的国产14nm Chiplet大模型推理芯片——其采用自主可控的国产工艺，内含国产RISC-V核，支持大模型推理部署。依托自研芯片DeepEdge10创新的D2D chiplet架构打造的X5000推理卡，已适配并可承载SAM CV大模型、Llama2等百亿级大模型运算，可广泛应用于AIoT边缘视频、移动机器人等场景。

这里不妨补充一点，传统的算法开发和芯片大都难以适应新一代人工智能边缘计算场景的产品化需求，而大模型的出现为行业提供了算法层面的解决之道。但大模型在边缘计算场景要面向实战发挥作用，则需要AI大模型推理芯片的支持。

对于AI芯片而言，大模型带来了全新的计算泛式和计算要求。芯片需要具备更大的算力、更大的内存带宽、更大的内存容量，才能支持巨量参数的大模型在边缘端运行。同时，AI边缘推理芯片还承担了“落地应用最后一公里”的职责，这就意味着AI边缘推理芯片不仅要支持大模型等AI计算任务，还需要具备较强的通用算力。

针对上述场景需求，云天励飞打造了新一代边缘计算芯片DeepEdge10。该芯片具有SoC主控集成度；采用D2D Chiplet技术和C2C Mesh扩展架构，可实现算力的灵活扩展；内置云天励飞最新的第四代神经网络处理器。

基于一系列创新技术，云天励飞打造了系列化芯片，现已开发出 Edge10C、Edge10 标准版和 Edge10Max 三款芯片；出货形态包括芯片、板卡、盒子、加速卡、推理服务器等，可广泛应用于AIoT边缘视频、移动机器人等场景。依托Dee Edge10创新的D2D chiplet架构打造的X5000推理卡，已适配并可承载SAM CV大模型、Llama2等百亿级大模型运算。

目前，云天励飞已向国内头部的AIoT芯片设计厂商、智慧汽车芯片设计厂商、服务机器人厂商、国家重点实验室等提供神经网络处理器的IP授权。

事实上，作为国内少有的自成立之初就坚持芯片研发的AI企业，云天励飞目前已完成了3代指令集架构、4代神经网络处理器架构的研发，且已陆续商用。此外，通过多年的投入，云天励飞已建立起一支核心芯片团队，设计经验平均超过14年。

值得注意的是，云天励飞提出的“算法芯片化”战略并不是简单的“算法+芯片”,而是云天励飞基于对场景的理解,以及对算法关键计算任务在应用场景中的量化分析，将芯片设计者的理念、思想与算法相融合的AI芯片设计流程，能够让AI芯片在实际应用中发挥更优的效果。

云天励飞的自主研发芯片，也是其自进化城市智能体战略的重要引擎。2020年，云天励飞在高交会上正式发布自进化城市智能体战略。驱动自进化城市智能体发展的核心逻辑，是打造“应用生产数据、数据训练算法、算法定义芯片、芯片规模化赋能应用”的数据飞轮。芯片是决定AI应用广度与深度的关键载体，也是自进化城市智能体建设的重要算力支撑。

未来，云天励飞将继续加大自主研发力度，立足自主可控，以自研“芯”，为自进化城市智能体发展提供强大引擎。