研究报告全文：行业点评计算机ChatGPT使用成本下降或将是打开产业应用市场的拐点证券研究报告2023年03月03日AIGC行业跟踪核心结论行业评级超配前次评级超配此次OpenAI使用成本的大幅下降很有可能来自于模型架构的调整3月2评级变动维持日OpenAI在官方博客宣布此次OpenAI开放的ChatGPTAPI模型是近一年行业走势Gpt-35-turbo这与ChatGPT目前使用的是同一种模型价格为0002美元1ktokensGPT-35模型达芬奇版本为002美元1ktokens使用成本下降90计算机沪深300回溯GPU的发展历程1人工智能算力核心来源于GPU2010年英伟达发-1-6布的Fermi架构是第一个完整的GPU架构其计算核心由16个SMStream-11Multiprocesser组成每个SM包含2个线程束Warp16组加载存储单元-16-21LDST和4个特殊函数单元SFU组成22016年的Pascal架构英-26伟达开始往深度学习方向演进在SM内部除了以往支持单精度的FP32Cuda-312022-032022-072022-11Core还增加了支持双精度的DPUnit而DPUnit实际上是FP64的CudaCore3从CudaCore到TensorCore通过精简业务模块满足低精度输出要求相对表现1个月3个月12个月进而节省成本2017年以后引入了张量核TensorCore模块用于执行融合计算机5701911011乘法加法其中两个44FP16矩阵相乘然后将结果添加到44FP16或FP32沪深300-058638-953矩阵中最终输出新的44FP16或FP32矩阵我们认为此次OpenAI成本的大幅下降很有可能来自于模型架构的调整分析师邢开允S0800519070001ChatGPT成本仍有降低空间我们认为ChatGPT使用成本的下降或将是打开13072123839产业应用市场的拐点1我们认为此次成本的下降可能来自于对算法算力以及xingkaiyunresearchxbmailcomcnGPU的优化包括业务层的优化降低延迟和重复调用模型层优化去掉作赵宇阳S0800522090002用不大的结构等等量化优化kernel层优化编译器层优等等2主导的变化让以前高精度CUDACore为主要的运算降低到可以以TensorCore为主要zhaoyuyangresearchxbmailcomcn的模型去跑这样的话就可以大幅降低使用成本3往后看我们认为这种优化会持续不断进行即使现在成本降低90但是随着OpenAI技术的迅速迭代相关研究计算机基建投资稳中向好行业下游需求有展望未来还有进一步下降的空间目前这个阶段可以认为已经看到初步应用的拐望修复智能网联车行业跟踪点评点2023-02-15计算机AIGC系列-C3AI全球领先的AI建议关注OpenAI产业进展研发进展提速我们认为相关模型比国内领先SaaS平台C3AI招股说明书梳理2023-02-14海外更快做好准备成本优化成功和搜索引擎在数量级上可以进行初步比较计算机A3打印机开辟国产化新赛道汉光奔图或成双寡头国产打印机行业专题报告我们认为海外产业链这个时点有充分逻辑可以撬动下游需求和生态发展所以2023-02-05海外业务占比越高的企业撬动力更高1出海产业链海外业务占比高推荐福昕软件建议关注昆仑万维万兴科技ChatGPT降价对于行业未来发展有提振作用对大规模商用有促进作用对AI产业链拉动作用强2AI大模型建议关注360拓尔思推荐科大讯飞3AI供应链建议关注海天瑞声中兴通讯推荐中科曙光海光信息4英伟达产业链建议关注天孚通信鸿博股份5百度产业链建议关注宇信科技汉得信息风险提示国际关系发生变化政策监管出现变化技术更新不及预期1请务必仔细阅读报告尾部的投资评级说明和声明西部证券行业点评计算机2023年03月03日索引内容目录一此次OpenAI使用成本的大幅下降很有可能来自于模型架构的调整3二ChatGPT成本仍有降低空间ChatGPT使用成本的下降或将是打开产业应用市场的拐点5三投资建议6四风险提示6图表目录图1GPU软件和硬件的对应关系3图2GPU软件和硬件的对应关系4图3SM内部架构4图4TensorCore运算模型52请务必仔细阅读报告尾部的投资评级说明和声明西部证券行业点评计算机2023年03月03日一此次OpenAI使用成本的大幅下降很有可能来自于模型架构的调整3月2日OpenAI在官方博客宣布此次OpenAI开放的ChatGPTAPI模型是Gpt-35-turbo这与ChatGPT目前使用的是同一种模型价格为0002美元1ktokensGPT-35模型达芬奇版本为002美元1ktokens使用成本下降90回溯GPU发展历程我们认为此次OpenAI使用成本的大幅下降很有可能来自于模型架构的调整1人工智能算力核心来源于GPU2010年英伟达发布的Fermi架构是第一个完整的GPU架构其计算核心由16个SMStreamMultiprocesser组成每个SM包含2个线程束Warp16组加载存储单元LDST和4个特殊函数单元SFU组成最核心的是每个线程束包含16个CudaCore组成每一个CudaCore由1个浮点数单元FPU和1个逻辑运算单元ALU组成图1GPU软件和硬件的对应关系资料来源AI人工智能西部证券研发中心CUDA编程中的最小单元称之为Thread可以简单认为一个软件Thread会在一个硬件CUDACore中执行而Thread中执行的内容或函数称之为Kernel多个相同的Thread组成一个ThreadBlock软件ThreadBlock会被调度到一个硬件SM上执行同一个ThreadBlock内的多个Thread执行相同的kernel并共享SM内的硬件资源而多个ThreadBlock又可以进一步组成一个Grid一个软件Grid可以看成一次GPU的计算任务被提交到一整个GPU硬件中执行这几个概念非常重要简单总结下kernelThread执行的内容代码函数Thread执行kernel的最小单元被SM调度到CUDACore中执行其实还有一个Warp的概念为了简单这里先略过ThreadBlock多个Thread组合GPU任务调度的最小单元这个描述不太准确应该3请务必仔细阅读报告尾部的投资评级说明和声明西部证券行业点评计算机2023年03月03日是Warp为了简单暂时先不细究被调度到SM中执行一个SM可以同时执行多个ThreadBlock但是一个ThreadBlock只能被调度到一个SM上Grid多个ThreadBlock的组合被调度到整个GPU中执行图2GPU软件和硬件的对应关系资料来源AI人工智能西部证券研发中心ThreadThreadBlock和Grid由于所处层次不同他们可以访问的存储资源也不同如Thread只能访问自身的寄存器ThreadBlock可以访问SM中的L1缓存而Grid则可以访问L2缓存和更大的HBM显存不同层次的存储其访问速度往往是数量级的差别GPU也不例外针对CUDA的优化很大一部分就是如何正确高效的使用GPU中的多级存储来提高GPU的方寸比从而进一步提高GPU的计算效率图3SM内部架构资料来源汽车人参考西部证券研发中心4请务必仔细阅读报告尾部的投资评级说明和声明西部证券行业点评计算机2023年03月03日这个架构确立了英伟达GPU整体的发展方向2012年的Kepler架构和2014年的Maxwell架构都在这个基础上增加CudaCore22016年的Pascal架构英伟达开始往深度学习方向演进在SM内部除了以往支持单精度的FP32CudaCore还增加了支持双精度的DPUnit而DPUnit实际上是FP64的CudaCore一个SM由64个FP32CudaCores和32个FP64CudaCoresDPUnit组成此外FP32CudaCore也具备处理半精度FP16的能力以满足当时行业开始对低精度计算的需求32017年以后引入了张量核TensorCore模块用于执行融合乘法加法其中两个44FP16矩阵相乘然后将结果添加到44FP16或FP32矩阵中最终输出新的44FP16或FP32矩阵图4TensorCore运算模型资料来源汽车人参考西部证券研发中心TensorCore所做的这种运算输入矩阵的精度为半精度但乘积可以达到完全精度在深度学习的训练和推理中十分常见TensorCore的引入增加了浮点计算的吞吐量TensorCore的流水线与标准算术逻辑单元ALU是一致的更多面向的是矩阵运算而对于单指令流多数据流标量Scalar运算结果不好二ChatGPT成本仍有降低空间ChatGPT使用成本的下降或将是打开产业应用市场的拐点3月2日OpenAI在官方博客宣布开放了ChatGPT和Whisper的模型API用户可将其集成在应用程序等产品中此次OpenAI开放的ChatGPTAPI模型是Gpt-35-turbo这与ChatGPT目前使用的是同一种模型价格为0002美元1ktokensGPT-35模型达芬奇版本为002美元1ktokens我们认为此次成本的下降可能来自于对算法算力以及GPU的优化此次OpenAI成本的大幅下降很有可能来自于模型架构的调整包括业务层的优化降低延迟和重复调用模型层优化去掉作用不大的结构等等量化优化kernel层优化编译器层优等等主导的变化让以前高精度CUDACore为主要的运算降低到可以以TensorCore为主要的模型去跑这样的话就大幅降低使用成本往后看我们认为这种优化会持续不断进行即使现在成本降低90但是随着OpenAI技术的迅速迭代展望未来还有进一步下降的空间目前这个阶段可以认为已经看到初步应用的拐点5请务必仔细阅读报告尾部的投资评级说明和声明西部证券行业点评计算机2023年03月03日三投资建议OpenAI产业进展研发进展提速我们认为相关模型比国内领先海外更快做好准备成本优化成功和搜索引擎在数量级上可以进行初步比较我们认为海外产业链这个时点有充分逻辑可以撬动下游需求和生态发展所以海外业务占比越高的企业撬动力更高出海产业链海外业务占比高推荐福昕软件建议关注昆仑万维万兴科技ChatGPT降价对于行业未来发展有提振作用对大规模商用有促进作用对AI产业链拉动作用强AI大模型建议关注360拓尔思推荐科大讯飞AI供应链建议关注海天瑞声中兴通讯推荐中科曙光海光信息英伟达产业链建议关注天孚通信鸿博股份百度产业链建议关注宇信科技汉得信息四风险提示1国际关系发生变化AIGC属于技术密集型行业国内外交流和联系比较密切如若国际关系发生变化会影响相关原材料的采购和技术的更新迭代2监管政策出现变化AIGC出于发展早期后续是否会出台AIGC作品相关知识版权或其他法律监管条款尚不明确3技术更新不及预期AIGC是强技术行业应用和涉及领域广泛对技术要求较高如若技术更新不及预期会影响行业整体发展6请务必仔细阅读报告尾部的投资评级说明和声明西部证券行业点评计算机2023年03月03日西部证券投资评级说明超配行业预期未来6-12个月内的涨幅超过市场基准指数10以上行业评级中配行业预期未来6-12个月内的波动幅度介于市场基准指数-10到10之间低配行业预期未来6-12个月内的跌幅超过市场基准指数10以上买入公司未来6-12个月的投资收益率领先市场基准指数20以上公司评级增持公司未来6-12个月的投资收益率领先市场基准指数5到20之间中性公司未来6-12个月的投资收益率与市场基准指数变动幅度相差-5到5卖出公司未来6-12个月的投资收益率落后市场基准指数大于5报告中所涉及的投资评级采用相对评级体系基于报告发布日后6-12个月内公司股价或行业指数相对同期当地市场基准指数的市场表现预期其中A股市场以沪深300指数为基准香港市场以恒生指数为基准美国市场以标普500指数为基准分析师声明本人具有中国证券业协会授予的证券投资咨询执业资格并注册为证券分析师以勤勉的职业态度专业审慎的研究方法使用合法合规的信息独立客观地出具本报告本报告清晰准确地反映了本人的研究观点本人不曾因不因也将不会因本报告中的具体推荐意见或观点而直接或间接收到任何形式的补偿联系地址联系地址上海市浦东新区耀体路276号12层北京市西城区丰盛胡同28号太平洋保险大厦513室深圳市福田区深南大道6008号深圳特区报业大厦10C联系电话021-38584209免责声明本报告由西部证券股份有限公司已具备中国证监会批复的证券投资咨询业务资格制作本报告仅供西部证券股份有限公司以下简称本公司机构客户使用本报告在未经本公司公开披露或者同意披露前系本公司机密材料如非收件人或收到的电子邮件含错误信息请立即通知发件人及时删除该邮件及所附报告并予以保密发送本报告的电子邮件可能含有保密信息版权专有信息或私人信息未经授权者请勿针对邮件内容进行任何更改或以任何方式传播复制转发或以其他任何形式使用发件人保留与该邮件相关的一切权利同时本公司无法保证互联网传送本报告的及时安全无遗漏无错误或无病毒敬请谅解本报告基于已公开的信息编制但本公司对该等信息的真实性准确性及完整性不作任何保证本报告所载的意见评估及预测仅为本报告出具日的观点和判断该等意见评估及预测在出具日外无需通知即可随时更改在不同时期本公司可能会发出与本报告所载意见评估及预测不一致的研究报告同时本报告所指的证券或投资标的的价格价值及投资收入可能会波动本公司不保证本报告所含信息保持在最新状态对于本公司其他专业人士包括但不限于销售人员交易人员根据不同假设研究方法即时动态信息及市场表现发表的与本报告不一致的分析评论或交易观点本公司没有义务向本报告所有接收者进行更新本公司对本报告所含信息可在不发出通知的情形下做出修改投资者应当自行关注相应的更新或修改本公司力求报告内容客观公正但本报告所载的观点结论和建议仅供投资者参考之用并非作为购买或出售证券或其他投资标的的邀请或保证客户不应以本报告取代其独立判断或根据本报告做出决策该等观点建议并未考虑到获取本报告人员的具体投资目的财务状况以及特定需求在任何时候均不构成对客户私人投资建议投资者应当充分考虑自身特定状况并完整理解和使用本报告内容不应视本报告为做出投资决策的唯一因素必要时应就法律商业财务税收等方面咨询专业财务顾问的意见本公司以往相关研究报告预测与分析的准确不预示与担保本报告及本公司今后相关研究报告的表现对依据或者使用本报告及本公司其他相关研究报告所造成的一切后果本公司及作者不承担任何法律责任在法律许可的情况下本公司可能与本报告中提及公司正在建立或争取建立业务关系或服务关系因此投资者应当考虑到本公司及或其相关人员可能存在影响本报告观点客观性的潜在利益冲突对于本报告可能附带的其它网站地址或超级链接本公司不对其内容负责链接内容不构成本报告的任何部分仅为方便客户查阅所用浏览这些网站可能产生的费用和风险由使用者自行承担本公司关于本报告的提示包括但不限于本公司工作人员通过电话短信邮件微信微博博客QQ视频网站百度官方贴吧论坛BBS仅为研究观点的简要沟通投资者对本报告的参考使用须以本报告的完整版本为准本报告版权仅为本公司所有未经本公司书面许可任何机构或个人不得以翻版复制发表引用或再次分发他人等任何形式侵犯本公司版权如征得本公司同意进行引用刊发的需在允许的范围内使用并注明出处为西部证券研究发展中心且不得对本报告进行任何有悖原意的引用删节和修改如未经西部证券授权私自转载或者转发本报告所引起的一切后果及法律责任由私自转载或转发者承担本公司保留追究相关责任的权力所有本报告中使用的商标服务标记及标记均为本公司的商标服务标记及标记本公司具有中国证监会核准的证券投资咨询业务资格经营许可证编号为91610000719782242D7请务必仔细阅读报告尾部的投资评级说明和声明