近日,韦豪创芯投资组合北极雄芯分别在西安秦创原人工智能前沿科技成果发布会及北京韦豪创芯孵化器启用仪式上同步发布了首个基于Chiplet架构的“启明930”芯片。
该芯片中央控制芯粒采用RISC-V CPU核心,同时可通过高速接口搭载多个功能型芯粒,基于全国产基板材料以及2.5D封装,做到算力可拓展,可用于AI推理、隐私计算、工业智能等不同场景,目前已与多家AI下游场景合作伙伴进行测试。
北极雄芯创始人马恺声教授发布启明930
后摩尔时代——Chiplet已成为行业重要演进方向
近年来,随着人工智能在各行业应用的快速发展,市场对于高性能计算的需求增长迫切。而当前半导体产业的发展在性能提升的迭代周期上却逐渐面临瓶颈,摩尔定律逐渐失效:一方面晶体管密度已经逼近物理极限,5nm及以下工艺的投出产出比已难以具备商业合理性;另一方面受制于光刻尺寸及晶圆厂良率,单芯片的面积亦无法无限延伸。
有别于传统单芯片设计模式,Chiplet方案下通过将大芯片拆分为小芯粒进行生产并集成封装,可有效提升大算力芯片制造的综合良率,并且通过芯粒复用创造灵活性的搭配选择,因此,基于Chiplet(芯粒)架构的芯片设计理念已成为后摩尔时代行业重要演进方向。
启明930——国内首款基于异构芯粒集成的智能处理芯片
随着海量数据积累、AI模型训练成熟以及各行业AI应用场景的丰富,市场对高性能算力的需求逐步由“通用化”向“专用化”转变,而大部分下游场景客户均面临通用算力利用率降低,而自研专有芯片成本高迭代慢等痛点。
北极雄芯的Chiplet方案将下游场景通用需求与专用需求解耦,分别设计制造小芯粒并集成,有效解决了下游客户在算法适配、迭代周期、算力利用率、算力成本等各方面难以平衡的核心痛点。
启明930为北极雄芯开发的首款基于Chiplet异构集成的智能处理芯片,该芯片采用12nm工艺生产,HUB Chiplet采用RISC-V CPU核心,可通过灵活搭载多个NPU Side Die提供8~20TOPS(INT8)稠密算力。启明930可独立用于AI加速卡,亦可通过D2D扩展多种功能型Side Die进行集成,具备多种产品形态。
启明930芯片实物
1.自研第三代“穆斯”核心架构NPU
启明930芯片采用了公司自研的第三代“穆斯”核心架构NPU,支持INT4,INT8和INT16计算精度,支持常见的卷积层、线性层、池化层和激活层,功能上支持常用检测、分类模型,包括但不限于VGG,ResNet,Yolo等。
不同NPU核心既可独立运行,也可联合运行加速同一任务,使用灵活方便。在设计阶段编译、架构深度耦合,且深入考虑到由于多芯粒互联带来的约束和代价,经优化后,芯片资源利用率平均可达70%。
该约束和代价问题在传统SOC中并不存在,属于芯粒互联带来的新问题,并没有行业先例可以参考,北极雄芯通过编译、映射联合优化达如此高的NPU利用率,积累了相关经验。
启明930板卡演示环境
各模型在启明930芯片上的资源利用率
2.全国产基板及封装供应链
启明930芯片采用国产基板以及2.5D封装,并根据国产基板特性对接口及封装方案进行优化,保证多芯片互联传输效率。基于全国产基板及封装的供应链能够有效提升人工智能芯片设计制造流程国产化率,并更进一步凸显Chiplet集成模式下的商业价值,为广大客户提供成本可控、供应稳定的高性能计算解决方案。
3.全栈式的智能应用部署工具
启明930芯片配套提供包括基础驱动、框架支持、应用层全栈式的应用部署工具,为客户提供面向调试-部署-应用的软件栈,目前已成功与合作伙伴验证一系列模型。
Artem——芯粒完整解决方案套件
北极雄芯三年来专注于Chiplet领域探索,成功验证了用Chiplet异构集成在全国产封装供应链下实现低成本高性能计算的可行性,并提供从算法、编译到部署的全链条优化。
基于此国产方案,公司将全面开放Chiplet方案服务,与行业上下游共同推进产业生态建设:
芯粒定义:公司根据不同场景需求与用户共同开展Chiplet定义及选型,并提供最优商业化解决方案;用户可灵活选择使用公司芯粒库现有产品,或以联合开发、自行开发等方式形成用户芯粒产品。
芯片集成及封装:公司向用户提供Artem Hub使用授权,以及D2D接口开发使用授权,并负责芯粒互联集成及封装、测试全链路服务。
量产交付:公司向用户提供全套编译工具及部署培训,并在产品生命周期内提供供应链协同管理及技术支持。
北极雄芯——基于Chiplet的专用计算领航者
北极雄芯由清华大学姚期智院士创建的交叉信息核心技术研究院自2018年起孵化发展,由清华大学交叉信息研究院助理教授马恺声领衔,团队来自于国内外知名半导体机构,多年来致力于成为基于Chiplet的专用计算领航者,用“小”芯片做“大”芯片,为大算力场景提供定制化高性能计算解决方案。
成立以来,公司获得包括韦豪创芯、中芯熙诚、讯飞创投、青岛润扬等知名产业机构以及红杉中国、图灵创投、SEE Fund等知名创投机构的投资支持,并已成功自主研发“启明910”、“启明920”等多款NPU,以及全国首个基于Chiplet的“启明930”AI芯片。
公司未来将持续投入Chiplet架构芯片的设计与研发,以启明930为基础进一步根据各场景需求迭代优化,并与产业上下游共同合作丰富接口及封装方案,建立适用于不同性能需求、不同场景的“芯粒库”生态。