研究报告全文：如何看待AI算力芯片与服务器的弹性TableReportDate2023年3月31日证券研究报告如何看待TableTitleAI算力芯片与服务器的弹性行业点评TableReportDate2023年3月31日本期内容提要TableReportType行业专题研究普通TableSTableSummaryTransformerummary模型是参数量可以无限增长的通用模型可以处理长序列的输入输出Transformer模型是一种基于自注意力机制的深度TableStockAndRank电子学习模型相较于传统AI模型如循环神经网络RNN和卷积神经网络CNN它在处理序列数据时具有更高的并行性和可扩展性投资评级看好其中自注意力机制使得模型能够捕捉序列中长距离依赖关系同时避免了RNN中的梯度消失或爆炸问题Transformer模型的参数量之上次评级看好所以会随着数据量和任务复杂度无限增长是因为它可以通过堆叠更多的层或增加隐藏层宽度来提高模型性能从而适应更复杂的数据和TableAuthor莫文宇电子行业首席分析师任务在传统CNNRNN模型中增加网络参数量会提高模型的拟合执业编号S1500522090001能力但过多的参数容易导致过拟合现象因此长期来看大模型领联系电话13437172818域或许会出现没有上限的军备竞赛邮箱mowenyucindasccom训练根据英伟达测算在4096颗A100GPU互联的情况下训练10000亿参数的模型约需要3-4周时间而在4096颗H100GPU互联的情况下时间约需要1周左右考虑到1周是研发阶段可承受的韩字杰联系人周期因此我们认为4000颗左右H100将是一个大型云计算企业每邮箱hanzijiecindasccom年支持30-50个5000亿参数模型项目训练所需要的芯片数量考虑到目前大模型参数量已经步入万亿级别芯片需求量可能会继续上升若以英伟达HGXH100-8计算集群为单位1024NvidiaH100GPUs总共需要4-8个计算集群考虑到售价为4900万美金集群则单个支持GPT训练的云计算中心至少投入196-392亿美金用于服务器的购买推理相比训练模型的部署是更大的市场我们认为应用对于服务器的最大承载能力要求在于过峰即满足PCU时刻的访问需求根据StatistaSteam2021年月活用户约为132亿人左右而Steam公布服务器最高访问人数截至2021年12月31日为2738万人最高817万人同时在线进行游戏因此我们合理推断一款被高强度访问的应用最高在线人数约为月活用户的619-2074假设在国内8亿用户体量下最高并发访问人数可高达4952万人-16592万人根据10DGXH100服务器一秒内可支持300用户的并发访问若响应时长延缓至5秒及以上最高可支持1000人以上的并发访问据此测算国内由AI带动的服务器需求量约为5万台-166万台芯片为50-166万颗假设全球活跃用户体量为国内用户体量的3倍则全球服务器需求量为15-50万台芯片需求量为150-500万颗投资建议ChatGPT的快速渗透侧面反映出大模型在通用任务上所展现的强大能力也为人工智能产业未来的投资指引了方向在AIGC驱动新一轮产业革命的趋势下我们认为AI算力产业链上下游均有投资机会建议关注海光信息寒武纪-U龙芯中科澜起科技工业富联紫光国微中芯国际华虹半导体华大九天概伦电子芯原股份兴森科技通富微电华正新材方邦股份长电科技海康威视大华股份晶晨股份瑞芯微全志科技信达证券股份有限公司风险提示技术迭代不及预期制裁风险本文对服务器芯片需求CINDASECURITIESCOLTD量等测算是基于一定前提假设存在假设条件不成立市场发展不及北京市西城区闹市口大街9号院1号楼预期等因素导致测算结果偏差邮编100031请阅读最后一页免责声明及信息披露httpwwwcindasccom2目录训练与部署我们如何测算AI芯片及服务器的弹性4训练迈入万亿参数时代千卡互联超级计算是大势所趋4部署强AI助手有望实现大规模渗透服务器市场注入新活力6投资建议趋势确立下注未来7风险因素9表目录表1汽车及细分行业近年销量增速情况5图目录图1传统NLP模型存在梯度下降爆炸问题无法解决长序列的处理4图2英伟达H100训练卡对LLM的训练时长函数曲线5图32022Q4全球云计算服务商市场份额6图4英伟达10DGXH100瞬时支持的300人的并发访问7图5英伟达过去5个季度收入构成百万美元7图6全球服务器市场产值及出货量预测7请阅读最后一页免责声明及信息披露httpwwwcindasccom3训练与部署我们如何测算AI芯片及服务器的弹性训练迈入万亿参数时代千卡互联超级计算是大势所趋Transformer模型是参数量可以无限增长的通用模型可以处理长序列的输入输出Transformer模型是一种基于自注意力机制的深度学习模型相较于传统AI模型如循环神经网络RNN和卷积神经网络CNN它在处理序列数据时具有更高的并行性和可扩展性其中自注意力机制使得模型能够捕捉序列中长距离依赖关系同时避免了RNN中的梯度消失或爆炸问题Transformer模型的参数量之所以会随着数据量和任务复杂度无限增长是因为它可以通过堆叠更多的层或增加隐藏层宽度来提高模型性能从而适应更复杂的数据和任务在传统CNNRNN模型中增加网络参数量会提高模型的拟合能力但过多的参数容易导致过拟合现象这意味着模型可能在训练集上表现良好但在测试集或实际应用中的泛化能力较差图1传统NLP模型存在梯度下降爆炸问题无法解决长序列的处理资料来源AttentionIsAllYouNeedAshishVaswani等信达证券研发中心训练的过程就是不断调整参数矩阵的过程参数矩阵体量越大消耗的数据和算力越多AI模型的训练可以理解为一个根据输入数据如文字图像声音等进行预测的过程在这个过程中模型通过不断调整其内部参数试图让预测结果尽可能接近真实的目标参数矩阵是AI模型中用于存储权重和偏置的矩阵权重和偏置是模型的关键参数它们在模型的训练过程中被不断更新以使模型在训练数据上获得更好的预测性能在训练过程中每次迭代时模型都会通过计算损失函数衡量模型预测值与真实值之间的差距的请阅读最后一页免责声明及信息披露httpwwwcindasccom4梯度然后根据这个梯度调整参数矩阵中的数值使损失函数最小化对参数矩阵的操作主要包括以下几个方面初始化在训练开始时参数矩阵中的权重和偏置通常会被随机初始化这样可以保证模型从一个比较广泛的参数空间开始学习前向传播根据输入数据和当前参数矩阵模型计算输出预测值这个过程中涉及到矩阵乘法和激活函数等操作反向传播计算损失函数关于参数矩阵的梯度这个梯度表示了损失函数在当前参数下的变化方向和程度更新参数根据梯度和设定的学习率调整参数矩阵中的数值这个过程通常使用优化算法如随机梯度下降Adam等完成通过反复进行以上操作AI模型在训练过程中不断调整参数矩阵以提高在训练数据上的预测性能表1汽车及细分行业近年销量增速情况ModelNamenparamsnlayersdmodelnheadsdheadBatchSizeLearningRateGPT-3Small125M12768126405M6010-4GPT-3Medium350M241024166405M3010-4GPT-3Large760M241536169605M2510-4GPT-3XL13B242048241281M2010-4GPT-327B27B32256032801M1610-4GPT-367B67B324096321282M1210-4GPT-313B130B405140401282M1010-4GPT-3175B1750B96122889612832M0610-4资料来源LanguageModelsareFew-ShotLearnersTomBBrown等信达证券研发中心根据英伟达测算在4096颗A100GPU互联的情况下训练10000亿参数的模型约需要3-4周时间而在4096颗H100GPU互联的情况下时间约需要1周左右考虑到1周是研发阶段可承受的周期因此我们认为4000颗左右H100将是一个大型云计算企业每年支持30-50个5000亿参数模型项目训练所需要的芯片数量考虑到目前大模型参数量已经步入万亿级别芯片需求量可能会继续上升图2英伟达H100训练卡对LLM的训练时长函数曲线资料来源COLFAX信达证券研发中心请阅读最后一页免责声明及信息披露httpwwwcindasccom5若以英伟达HGXH100-8计算集群为单位1024NvidiaH100GPUs总共需要4-8个左右集群考虑到售价为4900万美金集群则单个支持GPT训练的云计算中心至少投入196-392亿美金用于服务器的购买图32022Q4全球云计算服务商市场份额其他IBM阿里云谷歌云微软云亚马逊云05101520253035资料来源CRN信达证券研发中心部署强AI助手有望实现大规模渗透服务器市场注入新活力部署即将大模型应用到服务器端向消费者提供服务的过程要讨论部署对服务器市场的拉动我们必须先理清三个名词的含义和他们之间的对应关系活跃用户数量指的是在任意一个时间段内活跃的用户总数这个数字可以反映一个网站或应用的流行程度若这个时间段以月为单位则称为月活用户数量MonthlyActiveUsers简称MAU最高并发访问人数PeakConcurrentUsers简称PCU表示在某一特定时刻服务器能够同时承载的最大访问人数这个指标可以用来衡量服务器的处理能力和承载压力服务器压力ServerLoad指的是服务器在处理用户请求时所承受的负荷它通常受到并发访问人数请求处理速度网络带宽等多种因素的影响服务器压力过大可能导致服务器性能下降访问速度减缓甚至宕机维持合理的服务器压力对于保障用户体验至关重要对于服务器的需求数量来说它取决于最高并发访问时的服务器压力而最高访问数量又与活跃用户数量挂钩但远小于总用户体量月活用户数量MAU和服务器最高并发访问人数PCU之间的相关关系确实存在但这两者并非完全线性关系尽管月活用户数量能够反映一个网站或应用的流行程度但并发访问人数受到很多其他因素的影响例如用户访问行为访问时间段以及地域分布等根据StatistaSteam2021年月活用户约为132亿人左右而Steam公布服务器最高访问人数截至2021年12月31日为2738万人最高817万人同时在线进行游戏因此我们合理推断一款被高强度访问的应用最高在线人数约为月活用户的619-2074假设在国内8亿用户体量下最高并发访问人数可高达4952万人-16592万人根据10DGXH100服务器一秒内可支持300用户的并发访问若响应时长延缓至5秒及以上最高可支持1000人以上的并发访问据此测算国内由AI带动的服务器需求量约为5万台-166万台芯片为50-166万颗假设全球活跃用户体量为国内用户体量的3倍则全球服务器需求量为15-50万台芯片需求量为150-500万颗请阅读最后一页免责声明及信息披露httpwwwcindasccom6图4英伟达10DGXH100瞬时支持的300人的并发访问资料来源Nvidia官网NVIDIAH100CustomerDeck信达证券研发中心投资建议趋势确立下注未来回顾英伟达业绩可以看出在宏观经济美国加息等因素影响下英伟达下游的虚拟货币需求受到影响主要体现在游戏专业图形显示两个业务的收入规模显著下滑而AI驱动的数据中心业务在过去5个季度保持了较为稳定的收入侧面反映出该业务受其他不相干因素影响较小可以作为弹性测量的基准图5英伟达过去5个季度收入构成百万美元图6全球服务器市场产值及出货量预测9000数据中心游戏专业图形显示自动驾驶200000产值左轴百万美元出货量右轴千台2000080007000160000600015000500012000040001000080000300050002000400001000000202120222023E2024E2025E2026EQ4FY22Q1FY23Q2FY23Q3FY23Q4FY23资料来源英伟达官网信达证券研发中心资料来源工业富联年报信达证券研发中心我们以英伟达H100及相关服务器计算集群为依据给出如下总结训练的市场体量由于模型训练市场一般在1周左右因此云计算企业的AI服务器可以复用单一云计算企业投入训练的GPUAI芯片在4000颗以上甚至高达上万颗训练的市场格局现代的人工智能模型大多为多种基础模型算法特性的组合因此AI训练芯片应当具备灵活的编程环境提供完整的工具链因此我们认为在训练侧国内仅有少数具备体量优势市场优势的算力芯片企业能够实现量变与质变如寒武纪的思元系列海思的昇腾系列平头哥的含光系列等推理的市场体量相比训练模型的部署是更大的市场我们认为应用对于服务器的最大承载能力要求在于过峰即满足PCU时刻的访问需求考虑AI未来可能渗透至数十亿人的工作生活全球AI服务器需求增量可能高达50万台推理的市场格局在微架构设计上推理芯片通常会相对简单一些国内布局的企业更多云计算大厂也有相关的研发和投资这主要是因为推理任务相对于训练任务有更低的计算密集度和内存需求此外推理过程主要关注模型的前向传播这涉及到请阅读最后一页免责声明及信息披露httpwwwcindasccom7一系列矩阵乘法和非线性激活函数相比之下训练过程不仅包括前向传播还包括反向传播以及参数更新ChatGPT的快速渗透侧面反映出大模型在通用任务上所展现的强大能力也为人工智能产业未来的投资指引了方向在AIGC驱动新一轮产业革命的趋势下我们认为AI算力产业链上下游均有投资机会建议关注以下方向1服务器AI海光信息寒武纪-U龙芯中科澜起科技工业富联紫光国微2上游晶圆制造IP中芯国际华虹半导体华大九天概伦电子芯原股份3chiplet兴森科技通富微电华正新材方邦股份长电科技4下游海康威视大华股份晶晨股份瑞芯微全志科技请阅读最后一页免责声明及信息披露httpwwwcindasccom84风险因素1技术迭代不及预期2制裁风险3本文对服务器芯片需求量等测算是基于一定前提假设存在假设条件不成立市场发展不及预期等因素导致测算结果偏差请阅读最后一页免责声明及信息披露httpwwwcindasccom9研究团队简介TableIntroduction莫文宇毕业于美国佛罗里达大学电子工程硕士2012-2022年就职于长江证券研究所2022年入职信达证券研发中心任副所长电子行业首席分析师韩字杰电子行业研究员华中科技大学计算机科学与技术学士香港中文大学硕士研究方向为半导体设备半导体材料集成电路设计郭一江电子行业研究员本科兰州大学研究生就读于北京大学化学专业2020年8月入职华创证券电子组后于2022年11月加入信达证券电子组研究方向为光学消费电子汽车电子等机构销售联系区域姓名手机邮箱全国销售总监韩秋月13911026534hanqiuyuecindasccom华北区销售总监陈明真15601850398chenmingzhencindasccom华北区销售副总监阙嘉程18506960410quejiachengcindasccom华北区销售祁丽媛13051504933qiliyuancindasccom华北区销售陆禹舟17687659919luyuzhoucindasccom华北区销售魏冲18340820155weichongcindasccom华北区销售樊荣15501091225fanrongcindasccom华北区销售秘侨18513322185miqiaocindasccom华北区销售李佳13552992413lijia1cindasccom华北区销售赵岚琦15690170171zhaolanqicindasccom华北区销售张斓夕18810718214zhanglanxicindasccom华东区销售总监杨兴13718803208yangxingcindasccom华东区销售副总监吴国15800476582wuguocindasccom华东区销售国鹏程15618358383guopengchengcindasccom华东区销售朱尧18702173656zhuyaocindasccom华东区销售戴剑箫13524484975daijianxiaocindasccom华东区销售方威18721118359fangweicindasccom华东区销售俞晓18717938223yuxiaocindasccom华东区销售李贤哲15026867872lixianzhecindasccom华东区销售孙僮18610826885suntongcindasccom华东区销售贾力15957705777jialicindasccom华东区销售石明杰15261855608shimingjiecindasccom华东区销售曹亦兴13337798928caoyixingcindasccom华东区销售王赫然15942898375wangherancindasccom华南区销售总监王留阳13530830620wangliuyangcindasccom华南区销售副总监陈晨15986679987chenchen3cindasccom华南区销售副总监王雨霏17727821880wangyufeicindasccom华南区销售刘韵13620005606liuyuncindasccom华南区销售胡洁颖13794480158hujieyingcindasccom华南区销售郑庆庆13570594204zhengqingqingcindasccom华南区销售刘莹15152283256liuying1cindasccom华南区销售蔡静18300030194caijing1cindasccom华南区销售聂振坤15521067883niezhenkuncindasccom华南区销售宋王飞逸15308134748songwangfeiyicindasccom请阅读最后一页免责声明及信息披露httpwwwcindasccom10分析师声明负责本报告全部或部分内容的每一位分析师在此申明本人具有证券投资咨询执业资格并在中国证券业协会注册登记为证券分析师以勤勉的职业态度独立客观地出具本报告本报告所表述的所有观点准确反映了分析师本人的研究观点本人薪酬的任何组成部分不曾与不与也将不会与本报告中的具体分析意见或观点直接或间接相关免责声明信达证券股份有限公司以下简称信达证券具有中国证监会批复的证券投资咨询业务资格本报告由信达证券制作并发布本报告是针对与信达证券签署服务协议的签约客户的专属研究产品为该类客户进行投资决策时提供辅助和参考双方对权利与义务均有严格约定本报告仅提供给上述特定客户并不面向公众发布信达证券不会因接收人收到本报告而视其为本公司的当然客户客户应当认识到有关本报告的电话短信邮件提示仅为研究观点的简要沟通对本报告的参考使用须以本报告的完整版本为准本报告是基于信达证券认为可靠的已公开信息编制但信达证券不保证所载信息的准确性和完整性本报告所载的意见评估及预测仅为本报告最初出具日的观点和判断本报告所指的证券或投资标的的价格价值及投资收入可能会出现不同程度的波动涉及证券或投资标的的历史表现不应作为日后表现的保证在不同时期或因使用不同假设和标准采用不同观点和分析方法致使信达证券发出与本报告所载意见评估及预测不一致的研究报告对此信达证券可不发出特别通知在任何情况下本报告中的信息或所表述的意见并不构成对任何人的投资建议也没有考虑到客户特殊的投资目标财务状况或需求客户应考虑本报告中的任何意见或建议是否符合其特定状况若有必要应寻求专家意见本报告所载的资料工具意见及推测仅供参考并非作为或被视为出售或购买证券或其他投资标的的邀请或向人做出邀请在法律允许的情况下信达证券或其关联机构可能会持有报告中涉及的公司所发行的证券并进行交易并可能会为这些公司正在提供或争取提供投资银行业务服务本报告版权仅为信达证券所有未经信达证券书面同意任何机构和个人不得以任何形式翻版复制发布转发或引用本报告的任何部分若信达证券以外的机构向其客户发放本报告则由该机构独自为此发送行为负责信达证券对此等行为不承担任何责任本报告同时不构成信达证券向发送本报告的机构之客户提供的投资建议如未经信达证券授权私自转载或者转发本报告所引起的一切后果及法律责任由私自转载或转发者承担信达证券将保留随时追究其法律责任的权利评级说明投资建议的比较标准股票投资评级行业投资评级买入股价相对强于基准20以上看好行业指数超越基准本报告采用的基准指数沪深300指增持股价相对强于基准520中性行业指数与基准基本持平数以下简称基准持有股价相对基准波动在5之间看淡行业指数弱于基准时间段报告发布之日起6个月内卖出股价相对弱于基准5以下风险提示证券市场是一个风险无时不在的市场投资者在进行证券交易时存在赢利的可能也存在亏损的风险建议投资者应当充分深入地了解证券市场蕴含的各项风险并谨慎行事本报告中所述证券不一定能在所有的国家和地区向所有类型的投资者销售投资者应当对本报告中的信息和意见进行独立评估并应同时考量各自的投资目的财务状况和特定需求必要时就法律商业财务税收等方面咨询专业顾问的意见在任何情况下信达证券不对任何人因使用本报告中的任何内容所引致的任何损失负任何责任投资者需自行承担风险请阅读最后一页免责声明及信息披露httpwwwcindasccom11