ChatGPT：大模型下计算量高速扩张，算力需求陡增。1）以前，人工智能大多是针对特定场景应用进行训练，难以迁移，属于小模型范畴；而ChatGPT背后的支撑为人工智能大模型，可大幅扩充适用场景、提升研发效率。OpenAIGPT3自发布以来，在翻译、问答、内容生成等领域均有不俗表现，也吸引了海内外科技巨头纷纷推出超大模型、并持续加大投入。2）在大模型的框架下，每一代GPT模型的参数量均高速扩张，GPT-3参数量已达到1750亿个。我们认为，ChatGPT的快速渗透、落地应用，也将大幅提振算力需求。
　　访问算力：初始投入近十亿美元，单日电费数万美元。1）根据Similarweb的数据，2023年1月，平均每天约有1300万独立访客使用ChatGPT。访问阶段算力每天发生，其成本成为衡量ChatGPT最主要投入的关键指标。2）我们以英伟达A100芯片、DGXA100服务器、现阶段每日2500万访问量等假设为基础，估算得出：在初始算力投入上，为满足ChatGPT当前千万级用户的咨询量，投入成本约为8亿美元，对应约4000台服务器；在单日运行电费上，参考美国平均0.08美元/kwh工业电价，每日电费约为5万美元，成本相对高昂。
　　前期训练：公有云下，单次训练约为百万至千万美元。1）模型的前期训练成本也是讨论的重要议题。基于参数数量和token数量估算，GPT-3训练一次的成本约为140万美元；对于一些更大的LLM模型（如拥有2800亿参数的Gopher和拥有5400亿参数的PaLM），采用同样的计算公式，可得出，训练成本介于200万美元至1200万美元之间。2）我们认为，在公有云上，对于全球科技大企业而言，百万至千万美元级别的训练成本并不便宜，但尚在可接受范围内。
　　投资标的：
　　服务器：浪潮信息、紫光股份、中科曙光等。
　　芯片：景嘉微、寒武纪、海光信息等。
　　IDC：宝信软件、万国数据、数据港、世纪华通等。
　　光模块等。
　　风险提示：AI技术迭代不及预期风险、经济下行超预期风险、行业竞争加剧风险。

研究报告全文：证券研究报告行业点评2023年02月12日计算机Chatgpt需要多少算力ChatGPT大模型下计算量高速扩张算力需求陡增1以前人工智增持维持能大多是针对特定场景应用进行训练难以迁移属于小模型范畴而ChatGPT背后的支撑为人工智能大模型可大幅扩充适用场景提升研发效率OpenAIGPT3自发布以来在翻译问答内容生成等领域均有不行业走势俗表现也吸引了海内外科技巨头纷纷推出超大模型并持续加大投入2在大模型的框架下每一代GPT模型的参数量均高速扩张GPT-3参计算机沪深300数量已达到1750亿个我们认为ChatGPT的快速渗透落地应用也16将大幅提振算力需求0访问算力初始投入近十亿美元单日电费数万美元1根据Similarweb-16的数据2023年1月平均每天约有1300万独立访客使用ChatGPT-32访问阶段算力每天发生其成本成为衡量ChatGPT最主要投入的关键指-48标2我们以英伟达A100芯片DGXA100服务器现阶段每日25002022-022022-062022-102023-02万访问量等假设为基础估算得出在初始算力投入上为满足ChatGPT当前千万级用户的咨询量投入成本约为8亿美元对应约4000台服务器在单日运行电费上参考美国平均008美元kwh工业电价每日电作者费约为5万美元成本相对高昂分析师刘高畅前期训练公有云下单次训练约为百万至千万美元1模型的前期训执业证书编号S0680518090001练成本也是讨论的重要议题基于参数数量和token数量估算GPT-3训邮箱liugaochanggszqcom练一次的成本约为140万美元对于一些更大的LLM模型如拥有2800分析师杨然亿参数的Gopher和拥有5400亿参数的PaLM采用同样的计算公式执业证书编号S0680518050002可得出训练成本介于200万美元至1200万美元之间2我们认为邮箱yangrangszqcom在公有云上对于全球科技大企业而言百万至千万美元级别的训练成本相关研究并不便宜但尚在可接受范围内1计算机微软公布AI融合版BingChatGPT加速投资标的落地2023-02-09服务器浪潮信息紫光股份中科曙光等2计算机ChatGPT应用展望2023-02-05芯片景嘉微寒武纪海光信息等3计算机行情演绎的两个方向2023-02-05IDC宝信软件万国数据数据港世纪华通等光模块等风险提示AI技术迭代不及预期风险经济下行超预期风险行业竞争加剧风险请仔细阅读本报告末页声明2023年02月12日内容目录ChatGPT大模型下计算量高速扩张算力需求陡增3访问算力初始投入近十亿美元单日电费数万美元4前期训练公有云下单次训练约为百万至千万美元5投资标的6风险提示6图表目录图表1Gartner2022年度重要战略技术趋势3图表2GPT-3历代模型的参数量及数据量3图表3NVIDIADGXA100640GB参数规格-14图表4NVIDIADGXA100640GB参数规格-24图表5美国部分州2021年及2022年平均工业电价对比PriceperMwh5图表6GPT-3训练成本估算5图表7预估LLM在GCPTPUv4芯片上的训练成本6P2请仔细阅读本报告末页声明2023年02月12日ChatGPT大模型下计算量高速扩张算力需求陡增ChatGPT以大模型为基础在翻译问答内容生成等领域表现不俗1ChatGPT是生成式AI的一种形式Gartner将其作为2022年度重要战略技术趋势的第一位2根据腾讯研究院研究当前的人工智能大多是针对特定的场景应用进行训练生成的模型难以迁移到其他应用属于小模型的范畴整个过程不仅需要大量的手工调参还需要给机器喂养海量的标注数据这拉低了人工智能的研发效率且成本较高而ChatGPT背后的支撑是人工智能大模型大模型通常是在无标注的大数据集上采用自监督学习的方法进行训练之后在其他场景的应用中开发者只需要对模型进行微调或采用少量数据进行二次训练就可以满足新应用场景的需要这意味着对大模型的改进可以让所有的下游小模型受益大幅提升人工智能的适用场景和研发效率3因此大模型成为业界重点投入的方向OpenAI谷歌脸书微软国内的百度阿里腾讯华为和智源研究院等纷纷推出超大模型特别是OpenAIGPT3大模型在翻译问答内容生成等领域的不俗表现让业界看到了达成通用人工智能的希望当前ChatGPT的版本为GPT35是在GPT3之上的调优能力进一步增强图表1Gartner2022年度重要战略技术趋势资料来源腾讯研究院Gartner国盛证券研究所参数量数据量高度扩张算力需求陡增在大模型的框架下每一代GPT模型的参数量均高速扩张同时预训练的数据量需求亦快速提升我们认为ChatGPT的快速渗透落地应用也将大幅提振算力需求图表2GPT-3历代模型的参数量及数据量资料来源环球网国盛证券研究所P3请仔细阅读本报告末页声明2023年02月12日访问算力初始投入近十亿美元单日电费数万美元Chatgpt月活过亿访问量爆发式增长根据Similarweb的数据2023年1月平均每天约有1300万独立访客使用ChatGPT是2022年12月份的两倍多累计用户超1亿创下了互联网最快破亿应用的记录超过了之前TikTok9个月破亿的速度访问阶段的算力每天发生成为衡量ChatGPT投入的关键指标1计算假设英伟达A100根据OneFlow报道目前NVIDIAA100是AWS最具成本效益的GPU选择英伟达DGXA100服务器单机搭载8片A100GPUAI算力性能约为5PetaFLOPs单机最大功率约为65kw售价约为199万美元台图表3NVIDIADGXA100640GB参数规格-1图表4NVIDIADGXA100640GB参数规格-2资料来源英伟达官网国盛证券研究所资料来源英伟达官网国盛证券研究所标准机柜19英寸42U单个DGXA100服务器尺寸约为6U则标准机柜可放下约7个DGXA100服务器则单个标准机柜的成本为140万美元56个A100GPU算力性能为35PetaFLOPs最大功率455kw2芯片需求量每日咨询量根据Similarweb数据截至2023年1月底chatopenaicom网站即ChatGPT官网在2023127-202323这一周吸引的每日访客数量高达2500万假设以目前的稳定状态每日每用户提问约10个问题则每日约有25亿次咨询量A100运行小时假设每个问题平均30字单个字在A100GPU上约消耗350ms则一天共需消耗729167个A100GPU运行小时A100需求量对应每天需要7291672430382片英伟达A100GPU同时计算才可满足当前ChatGPT的访问量3运行成本初始算力投入以前述英伟达DGXA100为基础需要3038283798台服务器对应37987542个机柜则为满足ChatGPT当前千万级用户的咨询量初始算力投入成本约为542140759亿美元每月电费用电量而言542455kw24h591864kwh日参考HashrateIndexP4请仔细阅读本报告末页声明2023年02月12日统计我们假设美国平均工业电价约为008美元kwh则每日电费约为236964000847万美元日图表5美国部分州2021年及2022年平均工业电价对比PriceperMwh2022202110093908476807472686870606050403020100GeogiaNewYorkKentuckyNebraskaTexasNorthCarolinaOklahomaWashington资料来源HashrateIndex国盛证券研究所前期训练公有云下单次训练约为百万至千万美元模型的前期训练成本也是讨论的重要议题根据估算GPT-3训练成本约为140万美元对于一些更大的LLM模型训练成本约达到1120万美元1基于参数数量和token数量根据OneFlow估算GPT-3训练一次的成本约为1398万美元每个token的训练成本通常约为6N而推理成本约为2N其中N是LLM的参数数量假设在训练过程中模型的FLOPS利用率为462与在TPUv4芯片上进行训练的PaLM模型拥有5400亿参数一致图表6GPT-3训练成本估算资料来源OneFlow国盛证券研究所2对于一些更大的LLM模型如拥有2800亿参数的Gopher和拥有5400亿参数的PaLM采用同样的计算公式可得出训练成本介于200万美元至1200万美元之间P5请仔细阅读本报告末页声明2023年02月12日图表7预估LLM在GCPTPUv4芯片上的训练成本GopherMT-NLGPaLMGPT-3GoogleMicrosoftNvidiGoogleOpenAIDeepMindaResearchModelParameters175B280B530B540BFLOPsTokenModelParameter6TPUsMachine4PeakFLOPSTPU275TFLOPSUtilization4620CostMachineHour1-year812reservedSecondsHour3600TrainingCost1000Tokens00047000750014100144TrainTokens300B300B270B780BTrainingCost13980722236915381074411216529资料来源OneFlow国盛证券研究所我们认为在公有云上对于以谷歌等全球科技大企业而言百万至千万美元级别的训练成本并不便宜但尚在可接受范围内并非昂贵投资标的服务器浪潮信息紫光股份中科曙光等芯片景嘉微寒武纪海光信息等IDC宝信软件万国数据数据港世纪华通等光模块等风险提示AI技术迭代不及预期风险若AI技术迭代不及预期NLP技术理解人类意图水平未能取得突破则对产业链相关公司会造成一定不利影响经济下行超预期风险若宏观经济景气度下行固定资产投资额放缓影响企业再投资意愿从而影响消费者消费意愿和产业链生产意愿对整个行业将会造成不利影响NLP技术应用落地将会受限行业竞争加剧风险若相关企业加快技术迭代和应用布局整体行业竞争程度加剧将会对目前行业内企业的增长产生威胁P6请仔细阅读本报告末页声明2023年02月12日免责声明国盛证券有限责任公司以下简称本公司具有中国证监会许可的证券投资咨询业务资格本报告仅供本公司的客户使用本公司不会因接收人收到本报告而视其为客户在任何情况下本公司不对任何人因使用本报告中的任何内容所引致的任何损失负任何责任本报告的信息均来源于本公司认为可信的公开资料但本公司及其研究人员对该等信息的准确性及完整性不作任何保证本报告中的资料意见及预测仅反映本公司于发布本报告当日的判断可能会随时调整在不同时期本公司可发出与本报告所载资料意见及推测不一致的报告本公司不保证本报告所含信息及资料保持在最新状态对本报告所含信息可在不发出通知的情形下做出修改投资者应当自行关注相应的更新或修改本公司力求报告内容客观公正但本报告所载的资料工具意见信息及推测只提供给客户作参考之用不构成任何投资法律会计或税务的最终操作建议本公司不就报告中的内容对最终操作建议做出任何担保本报告中所指的投资及服务可能不适合个别客户不构成客户私人咨询建议投资者应当充分考虑自身特定状况并完整理解和使用本报告内容不应视本报告为做出投资决策的唯一因素投资者应注意在法律许可的情况下本公司及其本公司的关联机构可能会持有本报告中涉及的公司所发行的证券并进行交易也可能为这些公司正在提供或争取提供投资银行财务顾问和金融产品等各种金融服务本报告版权归国盛证券有限责任公司所有未经事先本公司书面授权任何机构或个人不得对本报告进行任何形式的发布复制任何机构或个人如引用刊发本报告需注明出处为国盛证券研究所且不得对本报告进行有悖原意的删节或修改分析师声明本报告署名分析师在此声明我们具有中国证券业协会授予的证券投资咨询执业资格或相当的专业胜任能力本报告所表述的任何观点均精准地反映了我们对标的证券和发行人的个人看法结论不受任何第三方的授意或影响我们所得报酬的任何部分无论是在过去现在及将来均不会与本报告中的具体投资建议或观点有直接或间接联系投资评级说明投资建议的评级标准评级说明评级标准为报告发布日后的6个月内公司股价或行业买入相对同期基准指数涨幅在15以上指数相对同期基准指数的相对市场表现其中A股市增持相对同期基准指数涨幅在515之间股票评级场以沪深300指数为基准新三板市场以三板成指针持有相对同期基准指数涨幅在-55之间对协议转让标的或三板做市指数针对做市转让标的减持相对同期基准指数跌幅在5以上为基准香港市场以摩根士丹利中国指数为基准美股增持相对同期基准指数涨幅在10以上市场以标普500指数或纳斯达克综合指数为基准中性相对同期基准指数涨幅在-1010行业评级之间减持相对同期基准指数跌幅在10以上国盛证券研究所北京上海地址北京市西城区平安里西大街26号楼3层地址上海市浦明路868号保利One561号楼10层邮编100032邮编200120传真010-57671718电话021-38124100邮箱gsresearchgszqcom邮箱gsresearchgszqcom南昌深圳地址南昌市红谷滩新区凤凰中大道1115号北京银行大厦地址深圳市福田区福华三路100号鼎和大厦24楼邮编330038邮编518033传真0791-86281485邮箱gsresearchgszqcom邮箱gsresearchgszqcomP7请仔细阅读本报告末页声明