AI的“iPhone”时刻来临，算力基础设施板块有望充分受益
　　英伟达美国时间3.21开始召开年度开发者大会（GTC）。在会上CEO黄仁勋再次强调ChatGPT等生成式AI的出现，会改变千行百业，AI正迎来“iPhone”时刻。公司展示了从芯片、服务器、大模型到云服务在内的完整的AI工厂解决方案，并希望能够成为AI时代的台积电。我们认为，1）大模型将是科技巨头之间的竞争，这个竞争会利好芯片送水人，2）芯片和数据成为制约发展的关键因素。关注1）先进封装及计算芯片在内的半导体产业链，2）服务器、PCB、光模块光纤在内数据中心产业链，以及（3）海康、大华、商汤等相关公司在垂直行业布局。
　　芯片：新版H100提高训练速度10倍，国内在技术上仍有较大提升空间
　　目前，主流的AI训练一般采用英伟达的A100或H100芯片，这次大会上，公司推出针对大模型优化过的新训练芯片H100 NVL，和过去的A100相比，训练速度提高10倍，成本降低一个数量级。目前，AI推理上，一般采用2018年发布的T4芯片，这次公司发布出面向视频生成和图像生成的新推理芯片L4和L40，其中L40推理性能是T4的10倍。受美国出口管制限制，中国目前只能采购实测性能比A100低1/3的A800，因此训练同一个体量的模型，中国在成本及速度上存在10倍以上的差距。目前国内AI芯片厂商在推理芯片已有一定市占率，但受CUDA等软件影响，训练芯片上差距仍较大。
　　从GPU到AI工厂，AI计算会为整个服务器产业链带来增长
　　这次会上，英伟达重点展示了如何从单颗GPU芯片H100，通过NVLINKSwitch形成一颗巨型GPU，然后通过Quantum InfiniBand技术，搭建有上百张GPU的DGX服务器，及把多台DGX联通形成一台AI超级计算机的全过程。我们看到整个系统的搭建过程，会带动包括服务器整机，PCB、光模块、光纤光缆、电源在内的整个服务器产业链的性能升级。产业链相关环节公司包括：工业富联、中兴、紫光、联想、沪电、胜宏、中际旭创等。
　　从云计算到大模型服务，关注垂直行业的发展机会
　　此次会上，英伟达还宣布推出每实例每月36,999美元起的AI计算服务NVIDIADGXCloud，和新的Al Foundations服务（包括语言大模型Nemo、视觉大模型Picasso和生物大模型BioNemo在内的模型研发服务），定位为超算云服务+模型代工厂。公司强调未来每家公司都会成为AI工厂，企业专有数据价值量高，AI云服务帮助企业以专有数据创建专有模型。目前中国大模型应用的发展还在起步阶段，参考上一轮人工智能周期，我们认为对垂直行业有深刻理解，有软硬件整合能力的企业更容易享受到AI红利。
　　风险提示：AI及技术落地不及预期；本研报中涉及到未上市公司或未覆盖个股内容，均系对其客观公开信息的整理，并不代表本研究团队对该公司、该股票的推荐或覆盖。
　　

研究报告全文：证券研究报告电子从英伟达GTC看AI工厂的投资机会华泰研究电子增持维持2023年3月23日中国内地专题研究研究员黄乐平PhDAI的iPhone时刻来临算力基础设施板块有望充分受益SACNoS0570521050001lepinghuanghtsccomSFCNoAUZ06685236586000英伟达美国时间321开始召开年度开发者大会GTC在会上CEO黄仁勋再次强调ChatGPT等生成式AI的出现会改变千行百业AI正迎来研究员余熠iPhone时刻公司展示了从芯片服务器大模型到云服务在内的完整SACNoS0570520090002yuyihtsccom的工厂解决方案并希望能够成为时代的台积电我们认为大SFCNoBNC5358675582492388AIAI1模型将是科技巨头之间的竞争这个竞争会利好芯片送水人2芯片和数研究员张皓怡据成为制约发展的关键因素关注1先进封装及计算芯片在内的半导体产SACNoS0570522020001zhanghaoyihtsccom业链2服务器PCB光模块光纤在内数据中心产业链以及3海康862128972228大华商汤等相关公司在垂直行业布局联系人胡宇舟SACNoS0570121040041huyuzhouhtsccom芯片新版H100提高训练速度10倍国内在技术上仍有较大提升空间SFCNoBOB67485236586000目前主流的训练一般采用英伟达的或芯片这次大会上AIA100H100联系人王心怡公司推出针对大模型优化过的新训练芯片H100NVL和过去的A100相比SACNoS0570121070166xinyiwanghtsccom训练速度提高10倍成本降低一个数量级目前AI推理上一般采用2018SFCNoBTB527862128972228年发布的T4芯片这次公司发布出面向视频生成和图像生成的新推理芯片联系人陈钰L4和L40其中L40推理性能是T4的10倍受美国出口管制限制中国SACNoS0570121120092chenyu019111htsccom目前只能采购实测性能比A100低13的A800因此训练同一个体量的模862128972228型中国在成本及速度上存在10倍以上的差距目前国内AI芯片厂商在推理芯片已有一定市占率但受等软件影响训练芯片上差距仍较大联系人权鹤阳CUDASACNoS0570122070045quanheyanghtsccom862128972228从GPU到AI工厂AI计算会为整个服务器产业链带来增长这次会上英伟达重点展示了如何从单颗GPU芯片H100通过NVLINK行业走势图Switch形成一颗巨型GPU然后通过QuantumInfiniBand技术搭建有上百张GPU的DGX服务器及把多台DGX联通形成一台AI超级计算机的电子沪深300全过程我们看到整个系统的搭建过程会带动包括服务器整机PCB光模块光纤光缆电源在内的整个服务器产业链的性能升级产业链相关环6节公司包括工业富联中兴紫光联想沪电胜宏中际旭创等311从云计算到大模型服务关注垂直行业的发展机会20此次会上英伟达还宣布推出每实例每月36999美元起的AI计算服务NVIDIADGXCloud和新的AlFoundations服务包括语言大模型Nemo28Mar-22Jul-22Nov-22Mar-23视觉大模型Picasso和生物大模型BioNemo在内的模型研发服务定位为超算云服务模型代工厂公司强调未来每家公司都会成为AI工厂企业专资料来源Wind华泰研究有数据价值量高AI云服务帮助企业以专有数据创建专有模型目前中国大模型应用的发展还在起步阶段参考上一轮人工智能周期我们认为对垂直行业有深刻理解有软硬件整合能力的企业更容易享受到AI红利风险提示AI及技术落地不及预期本研报中涉及到未上市公司或未覆盖个股内容均系对其客观公开信息的整理并不代表本研究团队对该公司该股票的推荐或覆盖免责声明和披露以及分析师声明是报告的一部分请务必一起阅读1电子AI工厂投资机会算力基础设施板块多模态AI板块本次GTC我们看到英伟达从硬件到软件全方位打造AI工厂我们认为行业已经进入以大模型大算力为特征的AI20时代算力基础设施板块将充分受益以下公司积极布局1先进工艺中芯国际2计算芯片寒武纪海光龙芯瑞芯微3先进封装华峰光力长电通富4PCB沪电胜宏5光模块光芯片中际旭创天孚新易盛华工科技源杰6服务器紫光股份中兴锐捷富联联想7交换机芯片裕太微盛科通讯8数据中心英维克9光纤光缆长飞亨通中天此外近期英伟达OpenAI谷歌等在多模态AI领域展现实力国内海康大华视源积极布局此领域图表1算力基础设施板块多模态AI板块相关公司板块中国企业先进工艺中芯国际计算芯片寒武纪海光信息龙芯中科瑞芯微先进封装华峰测控光力科技长电科技通富微电PCB沪电股份胜宏科技光模块光芯片中际旭创天孚通信新易盛华工科技源杰科技服务器紫光股份中兴通讯锐捷网络工业富联联想交换机芯片裕太微盛科通讯拟上市数据中心英维克光纤光缆长飞光缆亨通光电中天科技多模态AI海康威视大华股份商汤视源股份资料来源华泰研究图表2算力基础设施板块多模态AI板块相关公司估值表市值PEPS年初至今公司代码财报货币收盘价亿元2022E2023E2024E2022E2023E2024E涨跌幅中芯国际688981CHCNY52301982340536423404034271计算芯片寒武纪688256CHCNY160156421047nana8805583951935海光信息688041CHCNY65931532na1076721299199139643龙芯中科688047CHCNY13888557365520621222753308203625瑞芯微603893CHCNY9113381701050334215510876324先进封装华峰测控688200CHCNY2885526350039829624518914144光力科技300480CHCNY20207135nanananana327长电科技600584CHCNY3279584178161138171514423通富微电002156CHCNY2370359603319224181412438PCB沪电股份002463CHCNY1904361265216171433630600胜宏科技300476CHCNY1831158255146112191613415光模块光芯片中际旭创300308CHCNY4420354285241200373025635天孚通信300394CHCNY494219531938330616211892950新易盛300502CHCNY3705188364181151544335560华工科技000988CHCNY2281229253190148191512390源杰科技688498CHCNY1553094696606445333242177299服务器紫光股份000938CHCNY2938840132280230110908506中兴通讯000063CHCNY35721594209172149131110381锐捷网络301165CHCNY4888278497368272251915433工业富联601138CHCNY16063189157135121060605749联想0992HKUSD729884625852020202137交换机芯片裕太微688515CHCNY19525156na4359160838822316500数据中心英维克002837CHCNY3102135na402300513728-69光纤光缆长飞光缆601869CHCNY4033216260203165161311236亨通光电600487CHCNY154338110014011308070625中天科技600522CHCNY169757917413110814121151多模态AI海康威视002415CHCNY42804008313236198484135234大华股份002236CHCNY2050622150182149201815813视源股份002841CHCNY7869552259214178262118333注收盘价市值截至2023年3月22日美元兑港币数据截至2023年3月21日预测数据为Wind一致预期资料来源Wind华泰研究免责声明和披露以及分析师声明是报告的一部分请务必一起阅读2电子从GTC2023看英伟达AI算力基础设施英伟达GTC2023中为了满足AI市场的需求英伟达不仅发布了L4TensorCoreGPUL40GPUH100NVLGPU和GraceHopper等超级芯片还进一步推出NVIDIADGX超级计算机成为大语言模型实现突破背后的引擎英伟达在GTC2023中表示财富100强企业中有一半安装了DGXAI超级计算机DGX已成为AI领域的必备工具英伟达DGX大语言模型背后的引擎根据GTC2023DGX配有8个H100GPU模组H100配有Transformer引擎旨在支持类似ChatGPT的大模型这8个H100模组通过NVLINKSwitch彼此相连以实现全面无阻塞通信8个H100协同工作形成一个巨型GPU通过400Gbps超低延迟的NVIDIAQuantumInfiniBand进行网络内计算将成千上万个DGX节点连接成一台AI超级计算机并不断扩展应用范围成为全球客户构建AI基础设施的蓝图图表3NVIDIADGX超级计算机结构NVIDIAH100GPU8个H100模组通过NVLINKSwitch相连8个H100协同形成一个巨型GPU400Gbps超低延迟QuantumInfiniBand计算网络是AI超级计算机的重要系统NVIDIADGXH100计算网络连结成千上万个DGX节点形成一台AI超级计算机DGX超级计算机是现代化AI工厂资料来源GTC2023华泰研究免责声明和披露以及分析师声明是报告的一部分请务必一起阅读3电子图表4NVIDIADGXH100超级计算机资料来源GTC2023华泰研究除了NVIDIADGX超级计算机以外英伟达还宣布推出NVIDIADGXCloud和NVIDIAAIFoundations1NVIDIADGXCloud通过与MicrosoftAzureGoogleGCP和OracleOCl合作通过一个浏览器就可以将NVIDIADGXAI超级计算机即时地接入每家公司DGXCloud经过优化可运行NVIDIAAlEnterprise这是一款全球领先的加速库套件用于AI端到端开发和部署DGXCloud将NVIDIA的生态系统引入到了云服务提供商NVIDIA触及的范围得以扩展2NVIDIAAIFoundations这是一项云服务面向需要构建优化和运营定制LLM大型语言模型和生成式AI客户使用其专有数据进行训练用于处理特定领域的任务包括语言视觉和生物学模型制作服务NVIDIANeMo用于构建定制的语言文本转文本生成式模型Picasso是一项视觉语言模型制作服务BioNeMo提供用于药物研发的生成式AI模型我们认为ChatGPT等应用引发对AI算力的需求加速计算和生成式AI推理将带动训练推理芯片需求的爆发图表5英伟达NVIDIADGXCloud图表6英伟达NVIDIAAIFoundations资料来源英伟达GTC2023华泰研究资料来源英伟达GTC2023华泰研究免责声明和披露以及分析师声明是报告的一部分请务必一起阅读4电子AI计算如何推动训练芯片需求NVIDIA和AMD为GPGPU领域代表性厂商二者占据市场绝大部分份额其中NVIDIA2022年数据中心业务收入突破150亿美元2015-2022年复合增速达7186AMD经过我们推算GPGPU营收约为16亿美元数据中心营收剔除CPU及FPGA部分目前AI训练主要采用1英伟达在AI训练GPGPU包括V100A100H10022年下半年开始量产出货以及美国限制出口后英伟达推出的裁剪版A8002AMD推出的AI训练芯片包括MI250250X300图表7英伟达GPGPU系列芯片关键参数GPGPU系列产品的关键指标公司AMD产品型号TeslaV100TeslaA100H100MI100MI250MI250XMI300GPUGV100GA100GH100ArcturusAldebaranAldebaran-架构VoltaAmpereHopperCNDA10CNDA20CNDA20CNDA30SM80108132----SP5120CUDA6912CUDA16896CUDA76801331214080-张量矩阵核心单元640432528480832880-GPU超频频率MHz153014101775150217001700-FP32单元峰值156701949067000231004526047870-GFLOPSFP64单元峰值7834974634000115004526047870-GFLOPS张量单元矩阵峰值12531219791846362383-TFLOPSFP16存储器接口4096-bitHBM25120-bitHBM2e5120-bitHBM34096-bitHBM28192-bitHBM2e8192-bitHBM2eHBM3存储器大小16GB40GB80GB32GB128GB128GB128GBTDP瓦300250700300560560-晶体管数量10亿21154280-5858146芯片大小mm2815826814750700700-工艺nm12FFN7476656资料来源Nvidia华泰研究下图是一个典型的AI训练芯片的架构主要包括1CUDACUDA是一种将GPU作为数据并行计算设备的软硬件体系不需要借助图形学API而是采用了比较容易掌握的类C语言进行开发开发人员能够利用熟悉的C语言比较平稳地从CPU过渡到GPU编程与以往的GPU相比支持CUDA的GPU在架构上有了显著的改进1采用了统一处理架构可以更加有效地利用过去分布在顶点着色器和像素着色器的计算资源2引入了片内共享存储器两项改进使得CUDA架构更加适用于通用计算加上2008年后苹果AMD和IBM推出的OpenCL开源标准GPGPU在通用计算领域迅速发展2张量和矩阵核心GPGPU的大量硬件运算单元和高吞吐高带宽的存储设计能够提供强大的计算能力同时针对矩阵运算和卷积在软件层面提供了灵活完善的加速库支持使得GPGPU能够充分地利用其硬件计算资源和存储资源实现高吞吐的卷积计算为了进一步提升矩阵运算的性能近年来NVIDIA和AMD的GPGPU增加了全新的张量和矩阵核心大幅加速阵运算而且还支持多种精度使得GPGPU能够适应深度神经网络不同场景不同应用的精度需求3HBM存储器新一代DRAM解决方案突破内存容量与带宽瓶颈HBM是一款新型的CPUGPU内存芯片通过将多颗DDR颗粒利用3D堆叠后和CPUGPU封装在一起以实现大容量高位宽的DDR组合阵列通过增加带宽扩展内存容量让更大的模型更多的参数留在离核心计算更近的地方从而减少内存和存储解决方案带来的延迟4控制单元CPU包括运算逻辑部件寄存器部件和控制部件等是计算机的运算和控制核心注重通用性来处理各种不同的数据类型由于CPU结构中大部分晶体管用于构建控制电路和存储单元只有少部分用来完成实际运算工作所以CPU在大规模并行计算能力上极为受限免责声明和披露以及分析师声明是报告的一部分请务必一起阅读5电子图表8典型AI芯片的架构计算单元HBM控制单元资料来源Nvidia华泰研究在单芯片计算训练性能不断提升的基础上服务器整体能效的提升同样受到关注英伟达在此次GTC大会上推出DGXH100服务器配有8个H100GPU模组配有Transfofmer引擎以支持处理类似ChatGPT的生成式训练模型FP8精度在大型语言模型相较上一代A00的训练和推理能力分别提升930倍8个H100模组通过NVLINKSwitch相连确保GPU之间的合作和通信目前DGX100已全面投产后期有望面向全球企业图表9DGXH100A100参数对比NVIDIA系列产品的关键指标NVIDIA最大系统系统最大系统重量产品型号GPUGPU显存性能CPU网络存储软件系统尺寸mm运行温度范围NVSwitch功耗kW内存kg双路AMD8个单端口NVIDIARomeConnectX-67操作系统2个8个77422共UbuntuLinux操高度26405PFLOPS200Gbs的192TBM2NVMEA100128个核心作系统12316宽度最大AIInfiniBand端口2个驱动器DGXA100Tensor640GB665225GHz2TB同时支持Red16316包48235-3010POPS双端口NVIDIA内部存储30TBCore基准频Hat企业级Linux装后长度最大INT8ConnectX-67VPI8个384TBGPU率34CentOS8971102550100U2NVMe驱动器GHz最大200Gbs以太网加速频率DGXH100系统预安装DGX操作4个OSFP端口提系统该操作系供8个单端口统基于UbuntuNVIDIAConnectX-7Linux包含DGX网卡400Gbs的8个操作系统2块软件堆栈所有InfiniBand以太网H10019TBNVMeM2必要软件包和驱32PFLOPS2个双端口NVIDIADGXH100Tensor640GB4x102双路x862TB硬盘内部存储8动均针对DGX优5至30CFP8BlueField-3DPUVPICore块384TBNVMe化客户可以1个400Gbs的GPUU2硬盘选择单独安装InfiniBand以太网网UbuntuLinux或卡1个200Gbs的RedHatInfiniBand以太网网EnterpriseLinux卡以及必要的DGX软件堆栈资料来源英伟达GTC2023华泰研究免责声明和披露以及分析师声明是报告的一部分请务必一起阅读6电子训练大模型到底需要多少硬件据OpenAI团队发表于2020年的论文LanguageModelsareFew-ShotLearners训练一次1746亿参数的GPT-3模型需要的算力约为3640PFlops-day即假设每秒计算一千万亿次需要计算3640天考虑到ChatGPT训练在GPT-35模型基础上增加了参数量和训练样本量其训练阶段的算力需求超过3640PFlops-day观点110000张A100根据Lambda数据微软花费数亿美元帮助OpenAI组装了一台AI超级计算机以帮助开发ChatGPT这台超算拥有超过285000个CPU内核使用了数万个英伟达图形芯片A100每个GPU服务器的网络连接速度为每秒400GB使得OpenAI能够训练越来越强大的AI模型微软表示与世界超级计算机500强中的其他机器相比它排在前五名观点21024张A100根据EfficientLarge-ScaleLanguageModelTrainingonGPUClustersUsingMegatron-LM的实际训练数据1750亿参数300Btokens数据集的GPT-3模型在1024块英伟达A100上当batchsize1536时每GPU实际算力能够达到140teraFLOPs训练时间为34天华泰预测需要近2000张A100我们也对一次训练Chatgpt需要的成本和GPU数量进行了测算根据公式所需硬件数等于训练所需浮点运算次数模型参数1750亿训练集大小300亿每单词训练所需浮点数6次单位GPU单位时间有效浮点运算次数我们假设模型训练30天则对应需要1944张A100如果按照DGX8张GPU来算约为243台Al服务器8GPU1CPU此外我们还粗略估算出一次训练成本大致需要187万美元图表10算法与数据发展引发爆炸式算力需求目前算力制约整体技术发展模型训练GPU用量与时长英伟达Megatron-LM实际训练数据参数量模型并行BatchMicrobatch实际每吞吐训练时间策略GPU数量GPU十亿规模sizesize量teraFIOPs天38441449017461153676828874训练策略不合适时增加153614474GPU数量对减少训练时间无模型并行的ZeRO-325606404138169也无济于事52961112029813722402240148140384115384训练策略适合时增加1746961536768114943GPU数量可减少训练时长1536114123PTD并行56011711565296280224011201167802240115942控制其它条件不变增加GPU数量时由于芯片互连带宽等限制因素实际每GPU算力下降我们测算资料来源EfficientLarge-ScaleLanguageModelTrainingonGPUClustersUsingMegatron-LM华泰研究预测免责声明和披露以及分析师声明是报告的一部分请务必一起阅读7电子中国AI训练芯片进展仍与英伟达在性能和生态有一定差距训练芯片需通过海量数据训练出复杂的神经网络模型使其适应特定的功能对性能和精度有较高的要求并需具备一定的通用性近年来国内厂商训练芯片产品硬件性能不断取得突破但与市场主流英伟达A100产品仍存在一定差距以云邃T20产品为例其32位单精度浮点性能达32TFLOPS高于A100的195TFLOPS且在功耗上更具优势但内存宽带不足A100的13在应对机器学习和深度学习的带宽需求上仍有差距寒武纪去年年底推出思元590系列可能在部分模型上由于其ASIC专用性表现出更优异的性能但仍需要后期适配和技术支持图表11国内主要云端训练芯片与英伟达主流训练芯片对比资料来源各公司官网华泰研究免责声明和披露以及分析师声明是报告的一部分请务必一起阅读8电子AI计算如何推动推理芯片需求AI推理需要什么芯片训练是计算密集型模型需要大量的数据进行训练通过反向传播优化参数从而让模型达到某种目的而推理过程更多在场景下需要对训练的模型进行一定压缩裁剪或做计算上的优化以便能快速高效的多未知数据进行操作例如我们在视频监控中对人脸识别电商运营中个性化推荐电子支付中身份识别等都是常见的推理场景通常来说我们采用云端训练端侧推理模式即将数据传到云侧进行训练模型训练好的模型随后下放到端侧端侧利用训练好的模型直接进行推理在推理芯片的选用方面相较于训练更多关注模型大小而言推理更依赖于任务本质以此决定所需芯片种类当需要大量内容图像AI生成式时需要GPU进行推理计算如英伟达主流的T4芯片而对于较简单的推理过程语音识别等CPU有时也会成为较好的推理引擎图表12英伟达GPGPU系列芯片关键参数英伟达主要数据中心AI推理芯片参数BF16FP16单张量单元峰值CUDA核张量核GPU超频FP32单元峰值FP64单元峰值存储器大晶体管数芯片大小公司产品型号架构SM元峰值TFLOPS存储器接口TDP瓦工艺nm心单元心单元频率MHzTFLOPSGFLOPS小GB量10亿mm2TFLOPSFP16256-bit167013654512英伟达TeslaT4Turing402560320159065810254465GDDR6资料来源Nvidia华泰研究在本次GTC大会上我们还看到英伟达为加速生成式AI开发及部署在原有推理芯片上推出新的推理平台主要包括1适用于AI视频的L4主要视频解码和转码视频内容审核以及视频通话功能例如背景替换重新打光眼神交流转录和实时翻译进行优化一台8-GPUL4服务器将取代一百多台用于处理AI视频的双插槽CPU服务器行业内GoogleCloud正加速在L4上部署主要工作负载2适用于Omiverse和图形渲染的L40主要针对Omniverse图形渲染以及文本转图像和文本转视频等生成式Al性能是NVIDIA推理GPUT4的10倍3适用于扩展LLM推理的H100PCIEH100PCIE配备94GBHBM3显存可以处理拥有1750亿参数的GPT-3同时还可支持商用PCIE服务器扩展与适用于GPT-3处理的HGXA100相比一台搭载四对H100及双GPUNVLINK的标准服务器的速度要快10倍4适用于推荐系统和向量数据库的超级芯片Grace-Hopper通过900GB秒的高速一致性芯片到芯片接口连接GraceCPU和HopperGPU适合处理大型数据集如适用于推荐系统和大型语言模型的AI数据库图表13全新的推理平台四种配置一个体系架构一个软件栈资料来源英伟达GTC2023华泰研究免责声明和披露以及分析师声明是报告的一部分请务必一起阅读9电子AI推理成本推理阶段运营成本较高根据场景而定据SimilarWeb数据2023年1月ChatGPT官网总访问量为616亿次据Fortune杂志每次用户与ChatGPT互动产生的算力云服务成本约001美元基于此推算ChatGPT单月运营对应成本约616万美元与训练阶段相比较而言同样接近1个月的耗时假设根据Lambda测算3640PFlops-day的训练算力需耗费466万美元单位算力成本固定ChatGPT运营阶段的推理过程所需算力基础设施将多于训练阶段这里我们仅考虑一个提问回答场景我们认为推理应用涉及较广其对应的GPU需求超过万片远大于训练模型所需GPU中国AI推理芯片进展推理芯片则是利用神经网络模型进行推理预测对峰值计算性能要求较低则更加注重单位能耗算力时延成本等综合指标我国厂商多选择先从推理端切入寒武纪海思以及燧原等国内厂商产品已具备与市场主流的TeslaT4正面竞争能力以寒武纪思元370为例其INT8运算性能达到256TOPS高于T4的130TOPS且能效比和性价比均更优已具备替代T4能力图表14国内主要推理芯片与英伟达主流推理芯片对比资料来源各公司官网华泰研究免责声明和披露以及分析师声明是报告的一部分请务必一起阅读10电子AIFoundations超算云服务模型代工厂AI大模型领域的台积电生成式AI将重塑几乎所有行业英伟达在今年2月的4QFY23业绩会上表示过去公司只生产实物而未来每家公司都会成为AI工厂以源源不断的数据更新自己的模型企业内部专有数据价值量高AI云服务能够帮助企业使用专有数据创建专有模型本次GTC上英伟达再次强调企业内部专有数据专有模型的价值一些专业领域的公司需要使用其专有数据来构建定制模型需要制定使用规范并优化模型以契合公司的安全隐私要求英伟达表示行业需要一个类似台积电的代工厂来构建自定义的大型语言模型英伟达在本次GTC推出NVIDIAAlFoundations定位为超算云服务模型代工厂用于企业构建自定义语言模型和生成式AlNVIDIAAIFoundations包括语言视觉和生物学模型构建服务分别名为NemoPicasso和BioNemo使用企业专有数据进行训练用于处理特定领域的任务我们认为超算云服务模型代工厂的商业模式是英伟达作为芯片送水人在大模型时代的商业模式自然延伸图表15NVIDIAAlFoundations资料来源英伟达华泰研究语言模型服务NemoNVIDIANeMo用于构建定制的语言文本转文本生成式模型基于5个基础模型图16其特点在于1企业可以使用专业数据进行参数调优以教授其专业技能比如汇总财务文档创建特定品牌的内容以及以个性化的写作风格撰写电子邮件同时企业可以将模型连接到专有知识库可确保响应是准确的最新的并为其业务所引用2企业可以添加逻辑以及监控输入输出毒性和偏差阈值来确保模型安全性3模型投入使用后可以根据用户交互通过强化学习不断改进免责声明和披露以及分析师声明是报告的一部分请务必一起阅读11电子图表16NVIDIANemo服务资料来源英伟达华泰研究图表17Nemo服务基础模型GPT-8GPT-43GPT-530InformBLOOMZ-T0参数量B843530-13数据量Btokens11001100340--用例文本分类拼写校正邮件撰写事实问答文本摘要创意写作聊天机器人企业智能信息检索问答语言翻译语言理解问答资料来源英伟达华泰研究视觉模型服务PicassoNVIDIAPicasso是一项视觉语言模型制作服务用于构建和部署生成式AI赋能的图像视频和3D应用面向希望使用许可内容或专有内容来训练自定义模型的客户Picasso服务的基础模型是Edity企业可以使用专有数据加以训练此外由Picasso生成的素材可以导入编辑工具或NVIDIAOmniverse以构建逼真的虚拟世界元宇宙应用和数字孪生仿真Adobe和英伟达将共同开发生成性人工智能模型重点关注负责任的内容归属和出处这些模型将通过AdobeCloud旗舰产品如PhotoshopPremierePro和AfterEffects以及Picasso共同开发并推向市场图表18NVIDIAPicasso服务资料来源英伟达华泰研究免责声明和披露以及分析师声明是报告的一部分请务必一起阅读12电子图表19NVIDIAPicasso输入文本输出图片视频3D模型文生图文生视频文生3D资料来源英伟达华泰研究生物模型服务BioNemoNVIDIABioNeMo服务将生成式AI应用于药物发现通过NVIDIA云API研究人员可以快速定制和大规模部署特定领域最先进的生成和预测生物分子AI模型以快速生成蛋白质和生物分子的结构和功能加快新药研发BioNemo的具体功能包括蛋白质结构预测分子表示分子生成和分子对接AlphaFoldESMFold和OpenFold等用于三维蛋白质结构预测ProtGPT用子蛋白质生成ESM1和ESM2用于蛋白质特性预测MegaMolBART和MoFlow用于分子生成DiffDock则用于分子对接图表20NVIDIABioNemo服务资料来源英伟达华泰研究风险提示1AI技术落地不及预期虽然AI技术加速发展但由于成本落地效果等限制相关技术落地节奏可能不及我们预期2本研报中涉及到未上市公司或未覆盖个股内容均系对其客观公开信息的整理并不代表本研究团队对该公司该股票的推荐或覆盖免责声明和披露以及分析师声明是报告的一部分请务必一起阅读13电子免责声明分析师声明本人黄乐平余熠张皓怡兹证明本报告所表达的观点准确地反映了分析师对标的证券或发行人的个人意见彼以往现在或未来并无就其研究报告所提供的具体建议或所表迖的意见直接或间接收取任何报酬一般声明及披露本报告由华泰证券股份有限公司已具备中国证监会批准的证券投资咨询业务资格以下简称本公司制作本报告所载资料是仅供接收人的严格保密资料本报告仅供本公司及其客户和其关联机构使用本公司不因接收人收到本报告而视其为客户本报告基于本公司认为可靠的已公开的信息编制但本公司及其关联机构以下统称为华泰对该等信息的准确性及完整性不作任何保证本报告所载的意见评估及预测仅反映报告发布当日的观点和判断在不同时期华泰可能会发出与本报告所载意见评估及预测不一致的研究报告同时本报告所指的证券或投资标的的价格价值及投资收入可能会波动以往表现并不能指引未来未来回报并不能得到保证并存在损失本金的可能华泰不保证本报告所含信息保持在最新状态华泰对本报告所含信息可在不发出通知的情形下做出修改投资者应当自行关注相应的更新或修改本公司不是FINRA的注册会员其研究分析师亦没有注册为FINRA的研究分析师不具有FINRA分析师的注册资格华泰力求报告内容客观公正但本报告所载的观点结论和建议仅供参考不构成购买或出售所述证券的要约或招揽该等观点建议并未考虑到个别投资者的具体投资目的财务状况以及特定需求在任何时候均不构成对客户私人投资建议投资者应当充分考虑自身特定状况并完整理解和使用本报告内容不应视本报告为做出投资决策的唯一因素对依据或者使用本报告所造成的一切后果华泰及作者均不承担任何法律责任任何形式的分享证券投资收益或者分担证券投资损失的书面或口头承诺均为无效除非另行说明本报告中所引用的关于业绩的数据代表过往表现过往的业绩表现不应作为日后回报的预示华泰不承诺也不保证任何预示的回报会得以实现分析中所做的预测可能是基于相应的假设任何假设的变化可能会显著影响所预测的回报华泰及作者在自身所知情的范围内与本报告所指的证券或投资标的不存在法律禁止的利害关系在法律许可的情况下华泰可能会持有报告中提到的公司所发行的证券头寸并进行交易为该公司提供投资银行财务顾问或者金融产品等相关服务或向该公司招揽业务华泰的销售人员交易人员或其他专业人士可能会依据不同假设和标准采用不同的分析方法而口头或书面发表与本报告意见及建议不一致的市场评论和或交易观点华泰没有将此意见及建议向报告所有接收者进行更新的义务华泰的资产管理部门自营部门以及其他投资业务部门可能独立做出与本报告中的意见或建议不一致的投资决策投资者应当考虑到华泰及或其相关人员可能存在影响本报告观点客观性的潜在利益冲突投资者请勿将本报告视为投资或其他决定的唯一信赖依据有关该方面的具体披露请参照本报告尾部本报告并非意图发送发布给在当地法律或监管规则下不允许向其发送发布的机构或人员也并非意图发送发布给因可得到使用本报告的行为而使华泰违反或受制于当地法律或监管规则的机构或人员本报告版权仅为本公司所有未经本公司书面许可任何机构或个人不得以翻版复制发表引用或再次分发他人无论整份或部分等任何形式侵犯本公司版权如征得本公司同意进行引用刊发的需在允许的范围内使用并需在使用前获取独立的法律意见以确定该引用刊发符合当地适用法规的要求同时注明出处为华泰证券研究所且不得对本报告进行任何有悖原意的引用删节和修改本公司保留追究相关责任的权利所有本报告中使用的商标服务标记及标记均为本公司的商标服务标记及标记中国香港本报告由华泰证券股份有限公司制作在香港由华泰金融控股香港有限公司向符合证券及期货条例及其附属法律规定的机构投资者和专业投资者的客户进行分发华泰金融控股香港有限公司受香港证券及期货事务监察委员会监管是华泰国际金融控股有限公司的全资子公司后者为华泰证券股份有限公司的全资子公司在香港获得本报告的人员若有任何有关本报告的问题请与华泰金融控股香港有限公司联系免责声明和披露以及分析师声明是报告的一部分请务必一起阅读14电子香港-重要监管披露华泰金融控股香港有限公司的雇员或其关联人士没有担任本报告中提及的公司或发行人的高级人员英维克002837CH亨通光电600487CH华泰金融控股香港有限公司其子公司和或其关联公司实益持有标的公司的市场资本值的1或以上有关重要的披露信息请参华泰金融控股香港有限公司的网页httpswwwhtsccomhkstockdisclosure其他信息请参见下方美国-重要监管披露美国在美国本报告由华泰证券美国有限公司向符合美国监管规定的机构投资者进行发表与分发华泰证券美国有限公司是美国注册经纪商和美国金融业监管局FINRA的注册会员对于其在美国分发的研究报告华泰证券美国有限公司根据1934年证券交易法修订版第15a-6条规定以及美国证券交易委员会人员解释对本研究报告内容负责华泰证券美国有限公司联营公司的分析师不具有美国金融监管FINRA分析师的注册资格可能不属于华泰证券美国有限公司的关联人员因此可能不受FINRA关于分析师与标的公司沟通公开露面和所持交易证券的限制华泰证券美国有限公司是华泰国际金融控股有限公司的全资子公司后者为华泰证券股份有限公司的全资子公司任何直接从华泰证券美国有限公司收到此报告并希望就本报告所述任何证券进行交易的人士应通过华泰证券美国有限公司进行交易美国-重要监管披露分析师黄乐平余熠张皓怡本人及相关人士并不担任本报告所提及的标的证券或发行人的高级人员董事或顾问分析师及相关人士与本报告所提及的标的证券或发行人并无任何相关财务利益本披露中所提及的相关人士包括FINRA定义下分析师的家庭成员分析师根据华泰证券的整体收入和盈利能力获得薪酬包括源自公司投资银行业务的收入英维克002837CH亨通光电600487CH华泰证券股份有限公司其子公司和或其联营公司实益持有标的公司某一类普通股证券的比例达1或以上华泰证券股份有限公司其子公司和或其联营公司及或不时会以自身或代理形式向客户出售及购买华泰证券研究所覆盖公司的证券衍生工具包括股票及债券包括衍生品华泰证券研究所覆盖公司的证券衍生工具包括股票及债券包括衍生品华泰证券股份有限公司其子公司和或其联营公司及或其高级管理层董事和雇员可能会持有本报告中所提到的任何证券或任何相关投资头寸并可能不时进行增持或减持该证券或投资因此投资者应该意识到可能存在利益冲突本报告所载的观点结论和建议仅供参考不构成购买或出售所述证券的要约或招揽亦不试图促进购买或销售该等证券如任何投资者为美国公民取得美国永久居留权的外国人根据美国法律所设立的实体包括外国实体在美国的分支机构任何位于美国的个人该等投资者应当充分考虑自身特定状况不以任何形式直接或间接地投资本报告涉及的投资者所在国相关适用的法律法规所限制的企业的公开交易的证券其衍生证券及用于为该等证券提供投资机会的证券的任何交易该等投资者对依据或者使用本报告内容所造成的一切后果华泰证券股份有限公司华泰金融控股香港有限公司华泰证券美国有限公司及作者均不承担任何法律责任评级说明投资评级基于分析师对报告发布日后6至12个月内行业或公司回报潜力含此期间的股息回报相对基准表现的预期A股市场基准为沪深300指数香港市场基准为恒生指数美国市场基准为标普500指数具体如下行业评级增持预计行业股票指数超越基准中性预计行业股票指数基本与基准持平减持预计行业股票指数明显弱于基准公司评级买入预计股价超越基准15以上增持预计股价超越基准515持有预计股价相对基准波动在-155之间卖出预计股价弱于基准15以上暂停评级已暂停评级目标价及预测以遵守适用法规及或公司政策无评级股票不在常规研究覆盖范围内投资者不应期待华泰提供该等证券及或公司相关的持续或补充信息免责声明和披露以及分析师声明是报告的一部分请务必一起阅读15电子法律实体披露中国华泰证券股份有限公司具有中国证监会核准的证券投资咨询业务资格经营许可证编号为91320000704041011J香港华泰金融控股香港有限公司具有香港证监会核准的就证券提供意见业务资格经营许可证编号为AOK809美国华泰证券美国有限公司为美国金融业监管局FINRA成员具有在美国开展经纪交易商业务的资格经营业务许可编号为CRD298809SEC8-70231华泰证券股份有限公司南京北京南京市建邺区江东中路228号华泰证券广场1号楼邮政编码210019北京市西城区太平桥大街丰盛胡同28号太平洋保险大厦A座18层邮政编码100032电话862583389999传真862583387521电话861063211166传真861063211275电子邮件ht-rdhtsccom电子邮件ht-rdhtsccom深圳上海深圳市福田区益田路5999号基金大厦10楼邮政编码518017上海市浦东新区东方路18号保利广场E栋23楼邮政编码200120电话8675582493932传真8675582492062电话862128972098传真862128972068电子邮件ht-rdhtsccom电子邮件ht-rdhtsccom华泰金融控股香港有限公司香港中环皇后大道中99号中环中心58楼5808-12室电话852-3658-6000传真852-2169-0770电子邮件researchhtsccomhttpwwwhtsccomhk华泰证券美国有限公司美国纽约公园大道280号21楼东纽约10017电话212-763-8160传真917-725-9702电子邮件Huataihtsc-uscomhttpwwwhtsc-uscom版权所有2023年华泰证券股份有限公司免责声明和披露以及分析师声明是报告的一部分请务必一起阅读16