<div id="readability-page-1"><div>
 <img width="220" height="162" src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e58475ada4f_60e584759f39b_60e584759f36e_IMG_4340.jpg?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e58475ada4f_60e584759f39b_60e584759f36e_IMG_4340.jpg"/>
 芯东西（公众号：aichip001） 
作者 |  心缘 
编辑 |  漠影
芯东西 7 月 7 日报道，在 2021 世界人工智能大会期间，上海燧原科技推出第二代云端 AI 训练芯片邃思 2.0 及训练产品云燧 T20/T21，以及全新升级的驭算 Topsrider 2.0 软件平台。
邃思 2.0 是迄今中国最大的 AI 计算芯片，采用日月光 2.5D 封装的极限，在国内率先支持 TF32 精度，单精度张量 TF32 算力可达 160TFLOPS。同时，邃思 2.0 也是首个支持最先进内存 HBM2E 的产品。
<img src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e582f36621e_60e582f35f4d7_60e582f35f4a1_IMG_4302.jpg/_zdx/query-YQ?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1000" height="750" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e582f36621e_60e582f35f4d7_60e582f35f4a1_IMG_4302.jpg/_zdx/query-YQ"/>▲邃思 2.0 部分性能
云燧 T20/T21 基于邃思 2.0 而打造，由 8000 多张第二代云燧训练卡组成的云燧智算集群 2.0，单精度最高算力达 1.3EFLOPS，即 130000TFLOPS。
燧原科技成立于 2018 年 3 月，此前已相继推出首款云端 AI 训练芯片邃思、首款云端 AI 训练加速卡云燧 T10 和 AI 推理加速卡云燧 i10，以及配套的 “驭算” 软件平台。
<img src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e5810930020_60e581092d4c1_60e581092d491_IMG_4287.jpg/_zdx/query-YQ?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1000" height="750" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e5810930020_60e581092d4c1_60e581092d491_IMG_4287.jpg/_zdx/query-YQ"/>▲燧原发展历程
成立至今，燧原科技连续获得过 5 轮融资，累计融资额近 32 亿元人民币。其最新一笔融资为今年 1 月完成的 18 亿人民币 C 轮融资，由中信产业基金、中金资本旗下基金、春华资本领投。
<img src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e580b7d48a5_60e580b7d03f1_60e580b7d03a8_%E6%88%AA%E5%B1%8F2021-07-07-%E4%B8%8B%E5%8D%884.43.08.png/_zdx/query-YQ?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1000" height="667" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e580b7d48a5_60e580b7d03f1_60e580b7d03a8_%E6%88%AA%E5%B1%8F2021-07-07-%E4%B8%8B%E5%8D%884.43.08.png/_zdx/query-YQ"/>▲燧原科技 CEO 赵立东（左）与燧原科技 COO 张亚林（右）共同发布云燧 T20 训练加速卡和邃思 2.0 芯片
<h2>一、公布最新五年产品路线图</h2>
燧原科技创始人、COO 张亚林公布了燧原产品定理：燧原的每一代产品必须比前一代在 “平均业务” 中每瓦性能提升超 3 倍，软件后向兼容可靠。
<img src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e58176647b9_60e5817661ca2_60e5817661c6b_IMG_4337.jpg/_zdx/query-YQ?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1000" height="750" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e58176647b9_60e5817661ca2_60e5817661c6b_IMG_4337.jpg/_zdx/query-YQ"/>▲燧原产品定理
现场，张亚林还发布了燧原科技的最新路线图。
到 2023 年，燧原科技计划打造 3 款云端训练计算产品、3 款云端推理计算产品，将性能功耗比提升至初代的 14 倍，并同步升级 Matrix 集群。
<img src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e581a8e92cf_60e581a8e5d93_60e581a8e5d52_IMG_4333.jpg/_zdx/query-YQ?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1000" height="750" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e581a8e92cf_60e581a8e5d93_60e581a8e5d52_IMG_4333.jpg/_zdx/query-YQ"/>▲燧原云端训练计算产品路线图
同一时期，驭算 Topsrider 软件平台从全栈模块发展到训推一体，继而走向泛 AI 生态。
<img src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e581c93404a_60e581c9310b0_60e581c931089_IMG_4336.jpg/_zdx/query-YQ?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1000" height="759" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e581c93404a_60e581c9310b0_60e581c931089_IMG_4336.jpg/_zdx/query-YQ"/>▲燧原驭算 Topsrider 软件平台路线图
燧原科技创始人兼 CEO 赵立东分享道，下面这些落地场景将形成燧原科技今年的收入。
<img src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e581d9b52ab_60e581d9b24ec_60e581d9b24ba_IMG_4289.jpg/_zdx/query-YQ?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1000" height="750" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e581d9b52ab_60e581d9b24ec_60e581d9b24ba_IMG_4289.jpg/_zdx/query-YQ"/> 
▲燧原产品商业落地场景
燧原研发团队的主要成员均拥有 15 年以上的高端芯片及相关软件生态系统开发和量产经验，曾成功开发并量产多颗大型芯片。
截至今年 5 月，其团队规模已经超过 500 人，其中近 90% 为研发团队，博士及硕士占比近 70%。
目前燧原已获得 52 项专利，其中包括 45 项发明专利，同时有近 30 项专利正在申请中。这些专利内容涵盖了芯片的运算单元、核心功能模块、到封装及系统集群，以及软件的架构和优化。
<h2>二、超大规模智算集群，最高算力达 1.3E</h2>
今天，燧原科技推出与友商合作打造的全新产品品牌云燧智算集群 CloudBlazer Matrix 2.0，集合 8192 张云燧训练卡，可实现最高 1.3E（130000T）的单精度智能算力集群。
<img src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e5830c29ecf_60e5830c260f1_60e5830c260c3_IMG_4309.jpg/_zdx/query-YQ?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1000" height="750" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e5830c29ecf_60e5830c260f1_60e5830c260c3_IMG_4309.jpg/_zdx/query-YQ"/>▲云燧智算集群介绍
“在全世界还没有人能达到在单精度算力上用 8000 张卡实现超过 1E 的算力。” 张亚林说，这代表着燧原科技正式用集群化产品登上中国智能计算和新基建算力的舞台。
同时，云燧智算集群能驱动绿色数字化，液冷 PUE 可降到 1.5 以下，大幅提升整个集群的能效。
燧原与合作伙伴的联合开发，一起构建超大规模的液冷智能数据中心，以响应国家 “低碳算力” 和 “绿色一体化智能计算” 的战略方向。
<img src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e5838492147_60e583848faeb_60e583848fac7_IMG_4330.jpg/_zdx/query-YQ?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1000" height="750" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e5838492147_60e583848faeb_60e583848fac7_IMG_4330.jpg/_zdx/query-YQ"/>
<h2>三、国内最大 AI 芯片，五大特性解读</h2>
燧原云燧智算集群 2.0 包括邃思 DTU 2.0、云燧 T20 和 T21 训练产品、新一代驭算软件，能有效降低 AI 超算集群的整体复杂度和成本。
其中，燧原科技第二代云端 AI 训练芯片邃思 DTU 2.0 经过了全新升级迭代，其计算能力、存储和带宽、互联能力较第一代训练产品有巨大提升，对超大规模的模型支持能力获得显著增强。
<img src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e5853fa411b_60e5853fa0979_60e5853fa092d_IMG_4339.jpg/_zdx/query-YQ?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1000" height="655" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e5853fa411b_60e5853fa0979_60e5853fa092d_IMG_4339.jpg/_zdx/query-YQ"/>▲邃思 2.0 实物图
1、封装：中国最大的计算芯片
张亚林介绍道，邃思 2.0 是中国最大尺寸的计算芯片，采用 2.5D 高级封装技术，突破了台湾顶级封装合作伙伴的封装历史极限，共整合 9 颗芯片，实现 57.5mm x 57.5mm 的封装尺寸。
<img src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e5833589b7f_60e5833586b1d_60e5833586ade_IMG_4315.jpg/_zdx/query-YQ?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1000" height="750" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e5833589b7f_60e5833586b1d_60e5833586ade_IMG_4315.jpg/_zdx/query-YQ"/>
2、计算：TF32 精度峰值算力达 160TFLOPS
邃思 2.0 进行了大规模的架构升级，新一代全自研的 GCU-CARA 全域计算架构针对 AI 计算的特性进行深度优化，夯实了支持通用异构计算的基础。
该芯片支持全面的计算精度，涵盖从 FP32、TF32、FP16、BF16 到 INT8。张亚林说，这是中国首款支持单精度张量 TF32 数据精度的 AI 芯片，算力达 160TFLOPS。在单精度 FP32 下，邃思 2.0 的峰值算力达到 40 TFLOPS；同时该芯片支持定点整数精度，峰值算力达 320TOPS。
<img src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e5834312fc0_60e583430fade_60e583430faae_IMG_4318.jpg/_zdx/query-YQ?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1000" height="750" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e5834312fc0_60e583430fade_60e583430faae_IMG_4318.jpg/_zdx/query-YQ"/>
3、数据：植入完全可编程的数据流
数据被认为是 AI 在芯片处理上仅次于计算的部分，因为数据流的处理会直接决定计算的效率，燧原科技在整个芯片内部，植入了完全可编程的数据流。
软件指令驱动的传输和数据计算，保证了数据的吞吐量，以及不同模型下的效率，完全支撑标量、向量和张量的高效数据处理，以及多地址广播。
4、存储：率先支持 HBM2E 先进存储
邃思 2.0 的中心是主芯片，在边缘有 4 颗三星最先进的存储芯片 HBM2E，高配支持 64GB 内存，最大带宽达 1.8TB/s。据悉，这是中国首款支持世界最先进存储 HBM2E 和单芯片 64GB 内存的产品。
5、互联：高速互联支撑算力扩展
GCU-LARE 全域互联技术是燧原专为 AI 训练集群研发的互联技术，提供双向 300 GB/s 互联带宽，支持数千张云燧 CloudBlazer 加速卡互联，可实现优异的线性加速比。
<img src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e583508edf8_60e583508b972_60e583508b945_IMG_4321.jpg/_zdx/query-YQ?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1000" height="750" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e583508edf8_60e583508b972_60e583508b945_IMG_4321.jpg/_zdx/query-YQ"/>
<h2>四、训练卡算力比肩友商旗舰</h2>
云燧 T20 和云燧 T21 是基于邃思 2.0 打造的两款 AI 训练加速板卡。具体参数如下：
<img src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e5835ba1dc4_60e5835b9ec08_60e5835b9ebdc_IMG_4323.jpg/_zdx/query-YQ?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1000" height="716" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e5835ba1dc4_60e5835b9ec08_60e5835b9ebdc_IMG_4323.jpg/_zdx/query-YQ"/>
燧原科技还现场展示了 T20 的 Benchmark，由图可见，云燧 T20 TF32 精度性能平均 2.5 倍于友商次旗舰。
<img src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e58363a7d9b_60e58363a50ea_60e58363a50b2_IMG_4325.jpg/_zdx/query-YQ?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1000" height="750" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e58363a7d9b_60e58363a50ea_60e58363a50b2_IMG_4325.jpg/_zdx/query-YQ"/>
在多类模型测试中，云燧 T20 与友商旗舰性能几乎不分伯仲。
<img src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e59ee616a79_60e59ee6141a1_60e59ee614174_IMG_4325.jpg/_zdx/query-YQ?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1000" height="750" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e59ee616a79_60e59ee6141a1_60e59ee614174_IMG_4325.jpg/_zdx/query-YQ"/>
<h2>五、软件平台同步升级：更高更快更通用</h2>
此次同步升级的驭算 Topsrider，是燧原科技自主知识产权的计算及编程平台。张亚林介绍道：“升级后的驭算软件平台更加便捷易用和客户友好，燧原科技也可针对客户的场景和业务模型提供软件定制化服务和优化，打造差异化解决方案。”
<img src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e5836917693_60e5836914a21_60e58369149eb_IMG_4326.jpg/_zdx/query-YQ?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1000" height="750" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e5836917693_60e5836914a21_60e58369149eb_IMG_4326.jpg/_zdx/query-YQ"/>▲驭算 Topsrider2.0 架构
总体来说，驭算 Topsrider2.0 有三大特点：更高性能算力、更便捷高效开发、更灵活通用支持。
升级的驭算平台通过软硬件协同架构设计，充分发挥邃思 2.0 的性能，并借助侧写工具、自动化调整等功能进一步释放硬件算力，同时，其高效并行通信库支持超大集群高线性加速比。
该平台对开发者很友好。开放升级的编程模型和可扩展的算子接口，为客户模型的优化提供了快捷的自定义算子开发能力。驭算也提供完善编译器和工具链支持、开箱即用的图形化整合开发环境、动态形状自动编译和高性能运行支持。
当前驭算 Topsrider2.0 基于算子泛化技术及图优化策略，可支持主流深度学习框架下的各类模型训练和 ONNX 模型转换；设备虚拟化方面，最大可支持 4 个 MID 用户。
<h2>六、公布 “燎原” 计划，构建通用异构计算生态</h2>
面向生态建设，燧原科技创始人兼 CEO 赵立东宣布推出燧原异构计算生态 “燎原” 计划，有原始创新、标准化、生态共建三大特征。
这一计划的目标是以 AI 为起点，构建通用异构计算生态，构建标准化技术体系，共建完整生态服务数字中国。
<img src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e581f59004d_60e581f58cfe3_60e581f58cfbf_IMG_4292.jpg/_zdx/query-YQ?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1000" height="750" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e581f59004d_60e581f58cfe3_60e581f58cfbf_IMG_4292.jpg/_zdx/query-YQ"/>
除了在深度学习计算、通用人工智能领域外，燎原计划还会透过通用异构计算来涵盖科学和工程计算，以及视觉计算相关的视频编解码和图形渲染等。赵立东说，这个表列将根据市场发展和需求不断增加。
<img src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e581e814abe_60e581e811943_60e581e81191a_IMG_4290.jpg/_zdx/query-YQ?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1000" height="750" original-src="https://imageproxy.pbkrs.com/https://oss.zhidx.com/uploads/2021/07/60e581e814abe_60e581e811943_60e581e81191a_IMG_4290.jpg/_zdx/query-YQ"/>▲燧原的生态朋友圈
“燧原已经在原始创新的路上了，但是，所有的事情必须要脚踏实地。” 赵立东说，“这才能够使得我们真正实现自主可控、原始创新，真正建立中国强大的人工智能算力。路虽远，行则将至。事虽难，不做不成。”
<h2>结语：国产云端 AI 芯片走向落地新竞赛</h2>
完全自研的软硬件架构，使得燧原科技在知识产权和产品升级迭代上可以自主掌控方向和节奏。
成立三年以来，燧原科技严格遵循每年推出一款云端计算新品的节奏，完成了大芯片、软件全栈、系统集群从产品定义、设计验证、流片到产品的最终商业落地。这样的研发速度和落地能力，在国内云端 AI 芯片创企中当属前排。
如今云端 AI 芯片赛道持续受到资本的青睐，更多的新兴初创公司选择涌入其中，赛道正变得愈发拥挤。与此同时，随着更多云端 AI 芯片产品开始走向落地，谁能脱颖而出，将交给市场来说话。

 </div></div>

国产云端 AI 芯片走向落地新竞赛。

燧原科技推中国最大 AI 计算芯片！公布最新产品路线图