>> 华泰证券-科技行业动态点评:Dojo AI芯片,特斯拉异军突起-230912
| 上传日期: |
2023/9/12 |
大小: |
3279KB |
| 格式: |
pdf 共20页 |
来源: |
华泰证券 |
| 评级: |
增持 |
作者: |
何翩翩 |
| 下载权限: |
此报告为加密报告 |
|
|
AI芯片竞争趋白热化,异军突起,从内存和传输设计另辟蹊径 英伟达GPU一直为AI训练端首选。我们认为只有少数芯片能与其匹敌,如谷歌TPU和AMDMI300系列。当算法开始稳定和成熟,ASIC定制芯片凭着专用性和低功耗,能承接部分算力。因此,头部云计算及互联网大厂出于削减TCO、提升研发可控性及集成自身生态等考量,均陆续发力自研芯片。另外,初创AI芯片企业(如Cerebras、Graphcore等),以及芯片行业以外的企业,包括特斯拉等,正在异军突起,试图在芯片设计上另辟蹊径,通过大尺寸芯片突破内存共享和低延时的技术路线,有效应对AI应用中内存和传输速度的瓶颈,我们认为或将成为英伟达最大的竞争对手。 Cerebras:整片不切割打造晶圆级大芯片,但良率和有效运行占比暂成疑 美国AI芯片初创企业Cerebras Systems成立于2015年。2019年8月,发布第一代WSE(Wafer-Scale Engine,晶圆级引擎)芯片,定价为200-300万美元。21年4月推出7nm的WSE-2,面积46,225 mm2,拥有2.6万亿个晶体管,内核数达85万。WSE与传统芯片最大的不同在于整片晶圆不进行切割,并对内存和横向扩展采用了独特的设计。WSE-2采用40GBSRAM内存,可平均分配到整个晶圆芯片的表面。对比当时旗舰的GPUA100也为台积电7nm制程,片上内存80GBHBM。WSE-2具备27.5PB/s Fabric通信带宽,对比A100采用GPU互连达到600GB/s Fabric带宽。 Graphcore:Bow IPU多晶圆堆叠3D封装,正积极切入中国市场 英国初创企业Graphcore专注于研发人工智能芯片及打造计算机系统。2022年3月推出Bow IPU,采用台积电7nm制程和SoIC-WoW(System on ICWafer on Wafer)多晶圆堆叠3D封装技术,FP16算力达350TFLOPS,对比A100的312TFLOPS,面积和晶体管数量也相若。IPU具有多指令和多数据并行的特点。为了减少内存延迟,IPU摒弃了共享内存并在架构上采用大规模分布式的片上SRAM,让存储器与每个内核紧密耦合。IPU芯片上集成了900MB内存,320GB/s传输速度,通过增加冗余内核和芯片面积提升良率。Graphcore正在努力切入中国市场,为大型互联网公司提供硬件服务。 Dojo:从D1芯片到算力达1.1 ExaFLOPs的ExaPOD 类似于Bow IPU,Dojo也是采用多晶圆堆叠技术。D1 Dojo芯片采用台积电7nm制程工艺,芯片面积为645平方毫米,晶体管数量达500亿。25颗D1芯片(5x5排列)集成到一枚Dojo Training Tile上,以二维Mesh结构无缝互连。6枚Dojo Training Tiles(整块12英寸重构晶圆)安装在铜质散热盘上(tray)。2个盘子安装在一起成为1个柜子(cabinets),包含4,248个内核(354 x 6 x 2)。10个柜子成为机柜集群Dojo ExaPOD,而每个ExaPOD算力达到1.1 ExaFLOPs(1018浮点运算)。相当于500片H100(约1500万美元)或约3200片A100的算力(约3200万美元)。 为自动驾驶而生,Dojo超算为公司四大全栈自研科技支柱之一 2021年8月,特斯拉在AIDay首次介绍Dojo超算,基于D1 Dojo芯片的晶圆上(System on Wafer)系统级方案。特斯拉计划利用Dojo对海量视频数据进行无监督学习,加速Autopilot和完全自动驾驶(FSD)系统的迭代,同时为其人形机器人Optimus提供算力支持。在22年9月的AIDay上,特斯拉公布Dojo已建立完整的散热盘(tray)上系统。同时也宣布了未来路线图,表示AI团队正在研发新版本的Dojo超算组件。根据特斯拉23Q2财报发布会和科技媒体The Verge7月20日报道,特斯拉Dojo超算已在今年7月开始量产,而总算力达100ExaFLOPs的超算系统将于2024年底量产。 风险提示:AI技术落地和推进不及预期、行业竞争激烈、中美竞争加剧。
|
|