>> 国信证券-通信行业点评:特斯拉超算网络结构解析,关注互联与效率-230927
| 上传日期: |
2023/9/27 |
大小: |
511KB |
| 格式: |
pdf 共7页 |
来源: |
国信证券 |
| 评级: |
超配 |
作者: |
马成龙,朱锟旭 |
| 行业名称: |
通信 |
| 下载权限: |
此报告为加密报告 |
|
|
事项: 近期特斯拉Dojo超算系统正式上线,早在2021年特斯拉的AIDAY会议上,特斯拉就开始展示Project Dojo,经过2年的时间,Dojo超级计算系统完成上线。Dojo是特斯拉用于云端训练AI模型的超级计算机,可服务于特斯拉的全自动驾驶(FSD)系统升级迭代。根据“Tesla AI”公布的算力预期显示,预计2024年2月,特斯拉算力规模将进入全球前五,2024年10月总规模将达到100 Exa-Flops。 国信通信观点: 特斯拉Dojo超算是一套完全自研的系统,在服务器层采用自研芯片,并开创全新芯片互联模式,提升芯片互联速率和存储规模,更高效服务于内部应用的算力需求。AI应用最大的特点在于需要大量并行计算,对应到超算系统,单卡算力、网络互联、可扩展性成为核心关注因素。网络互联作为其中关键一环,需要持续进行速率提升推动算力系统升级,涉及到的硬件环节包括交换机、光模块等。 投资建议:网络互联作为后续超算系统升级的方向之一,带来交换机、光模块等环节持续迭代需求。建议重点关注:光模块及光器件、光芯片环节【中际旭创】、【天孚通信】、【新易盛】、【源杰科技】、【光库科技】等;国内ICT领先企业【紫光股份】、【锐捷网络】、【中兴通讯】、【菲菱科思】等。 风险提示:AI进展不及预期;硬件环节(服务器、交换机、光模块)迭代不及预期。
研究报告全文:证券研究报告2023年09月27日行业点评超配特斯拉超算网络结构解析关注互联与效率行业研究行业快评通信通信设备投资评级超配维持评级证券分析师马成龙021-60933150machenglongguosencomcn执证编码S0980518100002证券分析师朱锟旭021-60375456zhukunxuguosencomcn执证编码S0980523060003事项近期特斯拉Dojo超算系统正式上线早在2021年特斯拉的AIDAY会议上特斯拉就开始展示ProjectDojo经过2年的时间Dojo超级计算系统完成上线Dojo是特斯拉用于云端训练AI模型的超级计算机可服务于特斯拉的全自动驾驶FSD系统升级迭代根据TeslaAI公布的算力预期显示预计2024年2月特斯拉算力规模将进入全球前五2024年10月总规模将达到100Exa-Flops国信通信观点特斯拉Dojo超算是一套完全自研的系统在服务器层采用自研芯片并开创全新芯片互联模式提升芯片互联速率和存储规模更高效服务于内部应用的算力需求AI应用最大的特点在于需要大量并行计算对应到超算系统单卡算力网络互联可扩展性成为核心关注因素网络互联作为其中关键一环需要持续进行速率提升推动算力系统升级涉及到的硬件环节包括交换机光模块等投资建议网络互联作为后续超算系统升级的方向之一带来交换机光模块等环节持续迭代需求建议重点关注光模块及光器件光芯片环节中际旭创天孚通信新易盛源杰科技光库科技等国内ICT领先企业紫光股份锐捷网络中兴通讯菲菱科思等风险提示AI进展不及预期硬件环节服务器交换机光模块迭代不及预期评论Dojo超算结构拆解Dojo超算基本架构芯片D1-TrainingTile-SystemTray-ExaPODDojo超算系统由特斯拉完全自研打造从该超算系统的构成来看大体可分为四个层级从D1芯片到训练模块TrainingTile再到SystemTray最后组成一个完整的ExaPOD其中D1是特斯拉自主设计的神经网络训练芯片每25个D1芯片组成一个训练模块TrainingTile每6个训练模块再组成一个系统托盘SystemTray最后每2组Tray放在一个机柜内部每10组机柜构成一个完整的超算系统ExaPOD请务必阅读正文之后的免责声明及其项下所有内容1证券研究报告表1特斯拉Dojo超算结构拆解结构示意图基本参数特斯拉自研的AI芯片D1D17nm制程工艺354个训练计算节点D1芯片的单个功能单元具有125MBSRAM缓存DojoTile基本训练模组DojoTile每个Tile由5525个D1芯片组成每个SystemTray由6个Tile组成SystemTrayBF16CFP8峰值算力可达到54TFLOPS功耗100kWExaPOD由20个SystemTray构成其中2个Tray在一个机柜内一共10个机柜ExaPOD每个EXaPOD对应206253000个D1芯片总算力11EFLOPS资料来源TeslaAIDayHotChips国信证券经济研究所整理D1自定义AI芯片特斯拉AI芯片采用7nm工艺制程拥有500亿个晶体管芯片面积为645mm小于英伟达的A100826mm和AMDArcturus750mm每个D1芯片拥有354个Dojocore计算节点类似A100的Tensorcore每个Dojocore拥有125MB的SRAM作为主要的权重和数据存储在D1支持数据格式上除了支持AI常使用的FP32和FP16两个标准计算格式同时可以支持更适合推理Inference的BFP16格式为了提升混合精度计算性能D1还支持低精度和高吞吐量的8位CFP8格式图1D1芯片基本参数资料来源TeslaAIDay国信证券经济研究所整理TrainingTile25个D1芯片构成晶圆级封装技术自定义电源和散热模块在训练模块TrainingTile设计上传统的设计是将芯片分割和封装后集成在PCB上这种情况下芯片之间的通信通过芯片的IO和PCB走线发生造成芯片出现低带宽和延迟增加为了提升效率特斯拉使用了台积电芯片先进封装技术InFOSoW扇出晶圆工艺在晶圆上直接集成25个D1芯片形成一个TrainingTile在D1芯片互联上每颗D1芯片有576个双向SerDes通道分布在四周可连接到其他D1芯片单边带宽为4TBs在Tile互联上特斯拉在每一个Tile四周构建了一共36TBs互联带宽在散热方面由于25个D1芯请务必阅读正文之后的免责声明及其项下所有内容2证券研究报告片晶圆级封装形式在业内属于规模较大的类型整体功耗较高单颗D1芯片的功耗在400W左右25个D1芯片封装下的Tile功耗超过10KW特斯拉自定义了电压调制器模块和散热控制图2TraingTile互联展示图3TrainingTile结构图资料来源TeslaAIDayHotChips国信证券经济研究所整理资料来源TeslaAIDayHotChips国信证券经济研究所整理从SystemTray到ExaPOD每6个TrainingTile构成一组SytemTray形成一个类似DGXA100的服务器结构每个机柜内部放置2台SystemTray一个完整的ExaPOD集群一共包括10个机柜对应20个Tray120个Tile120253000个D1芯片图4SystemTray示意图图5单个机柜示意图资料来源TeslaAIDayHotChips国信证券经济研究所整理资料来源TeslaAIDayHotChips国信证券经济研究所整理ExaPOD内部通信互联DIP与以太网交换机DIPDojointerfaceProcessorDojo接口处理器完成Tile和CPU之间互联DIP本质上是一张特斯拉自研的PCIe网卡采用特斯拉自定义的TTP协议同时每张DIP卡提供32GBHBM内存和800GBs内存带宽通过DIP上的PCIe通道和TTP协议可以实现Tile之间互联互通在实际部署上每一个SystemTray上面有6个TrainingTile其中边缘四个Tile下方分别对接5个DIP卡因此每个Tile可以获得325160GBHBM内存请务必阅读正文之后的免责声明及其项下所有内容3证券研究报告图6特斯拉自研DIP图7DIP在Tray上互联示意图资料来源TeslaAIDayHotChips国信证券经济研究所整理资料来源TeslaAIDayHotChips国信证券经济研究所整理以太网交换机实现SystemTray间互联下图是特斯拉一个SystemTray内部的互联结构设计可以看出Tile之间互联靠DIP卡DIP卡最后互联到交换机Switch部分同时考虑到特斯拉自研的DIP卡支持以太网协议因此可以推测出在Tray之间互联部分仍通过以太网交换机完成图8特斯拉训练矩阵结构图资料来源TeslaAIDayHotChips国信证券经济研究所整理通过以上分析可知在Dojo这套超算系统里特斯拉在AI芯片D1架构设计芯片封装网络互联部分均有所创新最终达到了单个Dojo集群ExaPOD合计11EFLOPS算力规模投资建议网络互联作为后续超算系统升级的方向之一带来交换机光模块等环节持续迭代需求建议重点关注光模块及光器件光芯片环节中际旭创天孚通信新易盛源杰科技光库科技等国内ICT领先企业紫光股份锐捷网络中兴通讯菲菱科思等请务必阅读正文之后的免责声明及其项下所有内容4证券研究报告表2重点公司盈利预测与估值证券证券投资股价EPS元PEPB总市值代码简称评级9月26日20222023E2024E20222023E2024E亿元300308SZ中际旭创买入1118015420537872654529669898300394SZ天孚通信买入8960103137196871653458132354300502SZ新易盛买入438617912119224536222962311300620SZ光库科技增持473407204806965698868270116688498SH源杰科技无评级206002231412069241463100183175000938SZ紫光股份买入234707509311431125320620671301165SZ锐捷网络增持443310912216640736326663252000063SZ中兴通讯买入3388171211245198160138251621301191SZ菲菱科思买入124684093304453053782805386资料来源Wind国信证券经济研究所整理和预测风险提示AI进展不及预期硬件环节服务器交换机光模块迭代不及预期相关研究报告国信证券-行业专题-Marvell通信网络互联芯片领先厂商2023-09-15行业点评-通信卫星芯片现2亿订单低轨卫星模拟验证首次完成2023-09-08行业快评-超400亿元5G设备发标5G设备商持续受益2023-08-06国信通信交换机专题数字经济底座核心网元受益AI加速发展2023-06-29光芯片行业点评-高速光模块需求加速释放国内光芯片迎新机遇2023-06-19请务必阅读正文之后的免责声明及其项下所有内容5证券研究报告免责声明分析师声明作者保证报告所采用的数据均来自合规渠道分析逻辑基于作者的职业理解通过合理判断并得出结论力求独立客观公正结论不受任何第三方的授意或影响作者在过去现在或未来未就其研究报告所提供的具体建议或所表述的意见直接或间接收取任何报酬特此声明国信证券投资评级投资评级标准类别级别说明报告中投资建议所涉及的评级如有分为股票评买入股价表现优于市场代表性指数20以上级和行业评级另有说明的除外评级标准为报告发布日后6到12个月内的相对市场表现也即报股票增持股价表现优于市场代表性指数10-20之间告发布日后的6到12个月内公司股价或行业指数投资评级中性股价表现介于市场代表性指数10之间相对同期相关证券市场代表性指数的涨跌幅作为基卖出股价表现弱于市场代表性指数10以上准A股市场以沪深300指数000300SH作为基准新三板市场以三板成指899001CSI为基准超配行业指数表现优于市场代表性指数10以上行业香港市场以恒生指数HSIHI作为基准美国市场中性行业指数表现介于市场代表性指数10之间以标普500指数SPXGI或纳斯达克指数投资评级IXICGI为基准低配行业指数表现弱于市场代表性指数10以上重要声明本报告由国信证券股份有限公司已具备中国证监会许可的证券投资咨询业务资格制作报告版权归国信证券股份有限公司以下简称我公司所有本报告仅供我公司客户使用本公司不会因接收人收到本报告而视其为客户未经书面许可任何机构和个人不得以任何形式使用复制或传播任何有关本报告的摘要或节选都不代表本报告正式完整的观点一切须以我公司向客户发布的本报告完整版本为准本报告基于已公开的资料或信息撰写但我公司不保证该资料及信息的完整性准确性本报告所载的信息资料建议及推测仅反映我公司于本报告公开发布当日的判断在不同时期我公司可能撰写并发布与本报告所载资料建议及推测不一致的报告我公司不保证本报告所含信息及资料处于最新状态我公司可能随时补充更新和修订有关信息及资料投资者应当自行关注相关更新和修订内容我公司或关联机构可能会持有本报告中所提到的公司所发行的证券并进行交易还可能为这些公司提供或争取提供投资银行财务顾问或金融产品等相关服务本公司的资产管理部门自营部门以及其他投资业务部门可能独立做出与本报告中意见或建议不一致的投资决策本报告仅供参考之用不构成出售或购买证券或其他投资标的要约或邀请在任何情况下本报告中的信息和意见均不构成对任何个人的投资建议任何形式的分享证券投资收益或者分担证券投资损失的书面或口头承诺均为无效投资者应结合自己的投资目标和财务状况自行判断是否采用本报告所载内容和信息并自行承担风险我公司及雇员对投资者使用本报告及其内容而造成的一切后果不承担任何法律责任证券投资咨询业务的说明本公司具备中国证监会核准的证券投资咨询业务资格证券投资咨询是指从事证券投资咨询业务的机构及其投资咨询人员以下列形式为证券投资人或者客户提供证券投资分析预测或者建议等直接或者间接有偿咨询服务的活动接受投资人或者客户委托提供证券投资咨询服务举办有关证券投资咨询的讲座报告会分析会等在报刊上发表证券投资咨询的文章评论报告以及通过电台电视台等公众传播媒体提供证券投资咨询服务通过电话传真电脑网络等电信设备系统提供证券投资咨询服务中国证监会认定的其他形式发布证券研究报告是证券投资咨询业务的一种基本形式指证券公司证券投资咨询机构对证券及证券相关产品的价值市场走势或者相关影响因素进行分析形成证券估值投资评级等投资分析意见制作证券研究报告并向客户发布的行为证券研究报告国信证券经济研究所深圳深圳市福田区福华一路125号国信金融大厦36层邮编518046总机0755-82130833上海上海浦东民生路1199弄证大五道口广场1号楼12层邮编200135北京北京西城区金融大街兴盛街6号国信证券9层邮编100032
|
|