研报下载就选股票报告网
您好,欢迎来到股票分析报告网!登录   忘记密码   注册
>> 国信证券-人工智能行业点评:OpenAI访问限流,GPT-4算力测算-230320
上传日期:   2023/3/21 大小:   505KB
格式:   pdf  共5页 来源:   国信证券
评级:   超配 作者:   熊莉,朱松
下载权限:   此报告为加密报告
事项:
  OpenAI对于Plus付费用户的GPT-4访问连续下降阈值,GPT-4访问限制由第一天的150 msg/4hr到100 msg/4 hr到50msg/3 hr到最近的25msg/3hr。在较短的时间内GPT-4下降了4次访问阈值。
  评论:
  ChatGPT-4的访问被持续限流
  OpenAI对于Plus付费用户的GPT-4访问连续下降阈值,GPT-4访问限制由第一天的150 msg/4hr到100 msg/4 hr到50msg/3 hr到最近的25msg/3hr。在较短的时间内GPT-4下降了4次访问阈值。对于GPT-4的限流,OpenAI的官方回复是“开发者可能会对使用GPT-4的应用程序或者服务施加类似限制,以确保合理的资源分配,避免滥用或者控制成本。通常这类限制取决于API访问限制或者特定的订阅服务”。官方主要从控制成本的角度对GPT-4访问量进行优化,也明确了限流几乎只针对GPT-4。
   OpenAI限流的背后是其日活和周活用户数的持续攀升
  由于功能的强大以及回复率准确的高企,ChatGPT的日活和周日跃用户数量屡创新高,截止3月15日,ChatGPT日活突破5837万(3月13日的日活用户数据是4846万,两天新增接近800万日活),截止到3月9日这周,ChatGPT周度的活跃用户数量为331.81万,相比上一周活跃用户数量增加了接近25万。GPT的日活和周度活跃用户数量持续攀升,一方面是GPT4的能力更加强大,使用的体验更加流畅、回复的答案更加精准、上下文溯源的能力更加强大,使得越来越多的用户加入到体验和运用模型的队伍中来,另一方面是因为经过此前GPT-3经历后的付费用户数量越来越多。目前,OpenAI没有提价,对于Plus会员的价格还是20美金/月,但是随着用户数量的持续增加,预计限流的动作会持续。
  OpenAI的需求持续增长将持续推高算力成本
  ChatGPT应对终端访问,每1000 tokens需要算力成本0.02美金,3月3日OpenAI发布GPT-3.5-turbo,对外开放API接口,宣称算力成本下降90%,1000 tokens算力成本下降到0.002美金。目前,以英伟达DGXA1OO服务器作为计算资源,采用云服务单天成本约为460美元,假设按照ChatGPT日活1300万人,每个人每天平均1000字的问题(共计173.3亿个token),假设峰值为一天均值的5倍,那么需要602万台DGXA100服务器,每天的租用成本为27.77万美金,平均到每1000个token的推理成本为0.02美金左右(详细的测算过程欢迎参考前期报告《人工智能行业点评:ChatGPT对算力的需求究竟如何?》)。目前,GPT-3.5-turbo的算力成本下降了90%达到0.002美金每1000个tokens,我们预期模型的参数有所下调(此前测算成本按照GPT-3.5的模型参数3000亿个进行测算),此结果和用户对于new bing不及Chat GPT本身交互准确的感受相一致。
  预计GPT-4的算力消耗量远大于GPT-3和GPT-3.5-turbo。目前根据根据GPT-4的公开数据,在8K的上下文长度下,每1000个token的提问成本为0.03美金,每1000个token的回答完成成本为0.06美金;在32K的上下文长度下,每1000个token的提问成本为0.06美金,每1000个token的回答完成成本为0.12美金。这个算力成本相比与GPT-3的成本(每1000个tokens的算力成本约为0.02美金)上升了较高(输入成本增加50%-200%,输出升本增加200%-500%),相比于GPT-3.5-turbo的成本上升更为可观,输入成本增长了14-29倍,输出成本增长了29-59倍。
  预期在应用逐步增长的背景下,GPT的算力成本将进一步攀升。目前OpenAI主要的用户为C端用户,未来有望逐步扩大到B端领域,GPT-3.5-turbo下降精度降低算力成本以适应更多的应用场景是扩大生态中坚实的一步。随着GPT生态的建立、相关应用的爆发,算力的需求将持续扩大。目前,根据微软的数据,Bing的日活首次突破1亿(集成搜索+聊天功能的必应预览版自推出以来总聊天次数已超过4500万次),目前GPT的日活数量接近5800万,Bing日活1亿用户,假设NewBing4000万日活,其他应用4000万日活,合计1.4亿日活。假设普通98.5%的用户使用GPT-3.5-turbo,1.5%的用户使用GPT-4,那么98.5%普通用户的一天的算力成本在28万美金左右(对应607台DGXA100系列服务器),而1.5%付费使用GPT-4的用户的算力成本为每天840万美金(对应1.8万台DGXA100系列服务器)。
  具体测算和假设如下:1)98.5%的用户使用GPT-3.5-turbo,每个人每天问1000 tokens,按照每1000tokens需要算力成本0.002美金计算,每天的成本大概为28万美金,对应607台DGXA100系列服务器;2)1.5%付费用户使用GPT-4,每个人每天1万个tokens,按照目前GPT-4给出的最低价格(每1000个tokens0.06美金),那么算力成本为约840万美金,对应1.8万台DGXA100系列服务器。而根据微软在2019年的公告,投资OpenAI 10亿美金,投资1万个GPU建设Azure AI超算平台,可以预见的是,算力将很快被OpenAI的GPT模型消耗完,这也是OpenAI此前持续公布限流的原因之一。
  随着OpenAI官方公告6.14号开出GPT-4的API接口,按照目前用户数量和问询数量的趋势,公司必须做出一些应对措施
研究报告全文:证券研究报告2023年03月20日人工智能行业点评超配OpenAI访问限流GPT-4算力测算公司研究公司快评计算机投资评级超配维持评级证券分析师熊莉021-61761067xiongli1guosencomcn执证编码S0980519030002证券分析师朱松021-60875155zhusongguosencomcn执证编码S0980520070001事项OpenAI对于Plus付费用户的GPT-4访问连续下降阈值GPT-4访问限制由第一天的150msg4hr到100msg4hr到50msg3hr到最近的25msg3hr在较短的时间内GPT-4下降了4次访问阈值评论ChatGPT-4的访问被持续限流OpenAI对于Plus付费用户的GPT-4访问连续下降阈值GPT-4访问限制由第一天的150msg4hr到100msg4hr到50msg3hr到最近的25msg3hr在较短的时间内GPT-4下降了4次访问阈值对于GPT-4的限流OpenAI的官方回复是开发者可能会对使用GPT-4的应用程序或者服务施加类似限制以确保合理的资源分配避免滥用或者控制成本通常这类限制取决于API访问限制或者特定的订阅服务官方主要从控制成本的角度对GPT-4访问量进行优化也明确了限流几乎只针对GPT-4图1ChatGPT-4访问被限流资料来源OpenAI官网国信证券经济研究所整理OpenAI限流的背后是其日活和周活用户数的持续攀升由于功能的强大以及回复率准确的高企ChatGPT的日活和周日跃用户数量屡创新高截止3月15日ChatGPT日活突破5837万3月13日的日活用户数据是4846万两天新增接近800万日活截止到3月9日这周ChatGPT周度的活跃用户数量为33181万相比上一周活跃用户数量增加了接近25万GPT的日活和周度活跃用户数量持续攀升一方面是GPT4的能力更加强大使用的体验更加流畅回复的答请务必阅读正文之后的免责声明及其项下所有内容1证券研究报告案更加精准上下文溯源的能力更加强大使得越来越多的用户加入到体验和运用模型的队伍中来另一方面是因为经过此前GPT-3经历后的付费用户数量越来越多目前OpenAI没有提价对于Plus会员的价格还是20美金月但是随着用户数量的持续增加预计限流的动作会持续OpenAI的需求持续增长将持续推高算力成本ChatGPT应对终端访问每1000tokens需要算力成本002美金3月3日OpenAI发布GPT-35-turbo对外开放API接口宣称算力成本下降901000tokens算力成本下降到0002美金目前以英伟达DGXA1OO服务器作为计算资源采用云服务单天成本约为460美元假设按照ChatGPT日活1300万人每个人每天平均1000字的问题共计1733亿个token假设峰值为一天均值的5倍那么需要602万台DGXA100服务器每天的租用成本为2777万美金平均到每1000个token的推理成本为002美金左右详细的测算过程欢迎参考前期报告人工智能行业点评ChatGPT对算力的需求究竟如何目前GPT-35-turbo的算力成本下降了90达到0002美金每1000个tokens我们预期模型的参数有所下调此前测算成本按照GPT-35的模型参数3000亿个进行测算此结果和用户对于newbing不及ChatGPT本身交互准确的感受相一致预计GPT-4的算力消耗量远大于GPT-3和GPT-35-turbo目前根据根据GPT-4的公开数据在8K的上下文长度下每1000个token的提问成本为003美金每1000个token的回答完成成本为006美金在32K的上下文长度下每1000个token的提问成本为006美金每1000个token的回答完成成本为012美金这个算力成本相比与GPT-3的成本每1000个tokens的算力成本约为002美金上升了较高输入成本增加50-200输出升本增加200-500相比于GPT-35-turbo的成本上升更为可观输入成本增长了14-29倍输出成本增长了29-59倍图2ChatGPT-4访问价格资料来源OpenAI官网国信证券经济研究所整理预期在应用逐步增长的背景下GPT的算力成本将进一步攀升目前OpenAI主要的用户为C端用户未来有望逐步扩大到B端领域GPT-35-turbo下降精度降低算力成本以适应更多的应用场景是扩大生态中坚实的一步随着GPT生态的建立相关应用的爆发算力的需求将持续扩大目前根据微软的数据Bing的日活首次突破1亿集成搜索聊天功能的必应预览版自推出以来总聊天次数已超过4500万次目前GPT的日活数量接近5800万Bing日活1亿用户假设NewBing4000万日活其他应用4000万日活合计14亿日活假设普通985的用户使用GPT-35-turbo15的用户使用GPT-4那么985普通用户的一天的算力成本在28万美金左右对应607台DGXA100系列服务器而15付费使用GPT-4的用户的算力成本为每天840万美金对应18万台DGXA100系列服务器具体测算和假设如下1985的用户使用GPT-35-turbo每个人每天问1000tokens按照每1000tokens需要算力成本0002美金计算每天的成本大概为28万美金对应607台DGXA100系列服务器215付费用户使用GPT-4每个人每天1万个tokens按照目前GPT-4给出的最低价格每1000个tokens006美金那么算力成本为约840万美金对应18万台DGXA100系列服务器而根据微软在2019年的公告投资OpenAI10亿美金投资1万个GPU建设AzureAI超算平台可以预见的是算力将很快被OpenAI的GPT模型消耗完这也是OpenAI此前持续公布限流的原因之一随着OpenAI官方公告614号开出GPT-4的API接口按照目前用户数量和问询数量的趋势公司必须做请务必阅读正文之后的免责声明及其项下所有内容2证券研究报告出一些应对措施要想保留GPT-4强大和精准的能力就需要继续扩大算力或者继续降低精度以控制算力成本在全球的AI浪潮下国内自从百度文心一言大模型推出后也有几百家的公司成为其合作伙伴未来阿里和腾讯的大模型也有望推出对应的算力缺口有望持续扩大从国内的浪潮信息中科曙光工业富联海光信息紫光股份等公司下游需求来看已经有些端倪投资建议目前全球正处于AI浪潮中海外以OpenAI旗下的GPT大模型为代表越来越多的C端用户和B端厂商接入生态在AI赋能后产品和应用端都出现了较为明显的积极变化微软已经率先将GPT-4接入了Office等全系列办公场景预期后续会有更多的现象级应用出现国内市场也受益于百度文心一言大模型的发布未来有望在应用端迎来百花齐放随着应用端逐渐丰富对算力的需求提出了更多的需求在此趋势下预计未来的算力需求缺口将会持续扩大建议重点关注人工智能算力领域的相关标的如海光信息等风险提示模型假设不合理对测算结果造成偏差ChatGPT商业化落地不及预期算力芯片进展不及预期相关研究报告人工智能行业点评-Microsoft365Copilot发布国内外AI应用有望加速落地2023-03-19国央企ERP专题报告数字化转型下的新机遇2023-03-10计算机行业2023年3月投资策略暨年报前瞻-2022行业业绩承压关注ChatGPT引发的AI应用表现2023-03-06人工智能行业点评-ChatGPT开放API接口应用侧有望迎来全面爆发2023-03-05人工智能行业点评-2017年以来人工智能行情复盘2023-02-17请务必阅读正文之后的免责声明及其项下所有内容3证券研究报告免责声明分析师声明作者保证报告所采用的数据均来自合规渠道分析逻辑基于作者的职业理解通过合理判断并得出结论力求独立客观公正结论不受任何第三方的授意或影响作者在过去现在或未来未就其研究报告所提供的具体建议或所表述的意见直接或间接收取任何报酬特此声明国信证券投资评级类别级别说明买入股价表现优于市场指数20以上股票增持股价表现优于市场指数10-20之间投资评级中性股价表现介于市场指数10之间卖出股价表现弱于市场指数10以上超配行业指数表现优于市场指数10以上行业中性行业指数表现介于市场指数10之间投资评级低配行业指数表现弱于市场指数10以上重要声明本报告由国信证券股份有限公司已具备中国证监会许可的证券投资咨询业务资格制作报告版权归国信证券股份有限公司以下简称我公司所有本公司不会因接收人收到本报告而视其为客户未经书面许可任何机构和个人不得以任何形式使用复制或传播任何有关本报告的摘要或节选都不代表本报告正式完整的观点一切须以我公司向客户发布的本报告完整版本为准本报告基于已公开的资料或信息撰写但我公司不保证该资料及信息的完整性准确性本报告所载的信息资料建议及推测仅反映我公司于本报告公开发布当日的判断在不同时期我公司可能撰写并发布与本报告所载资料建议及推测不一致的报告我公司不保证本报告所含信息及资料处于最新状态我公司可能随时补充更新和修订有关信息及资料投资者应当自行关注相关更新和修订内容我公司或关联机构可能会持有本报告中所提到的公司所发行的证券并进行交易还可能为这些公司提供或争取提供投资银行财务顾问或金融产品等相关服务本公司的资产管理部门自营部门以及其他投资业务部门可能独立做出与本报告中意见或建议不一致的投资决策本报告仅供参考之用不构成出售或购买证券或其他投资标的要约或邀请在任何情况下本报告中的信息和意见均不构成对任何个人的投资建议任何形式的分享证券投资收益或者分担证券投资损失的书面或口头承诺均为无效投资者应结合自己的投资目标和财务状况自行判断是否采用本报告所载内容和信息并自行承担风险我公司及雇员对投资者使用本报告及其内容而造成的一切后果不承担任何法律责任证券投资咨询业务的说明本公司具备中国证监会核准的证券投资咨询业务资格证券投资咨询是指从事证券投资咨询业务的机构及其投资咨询人员以下列形式为证券投资人或者客户提供证券投资分析预测或者建议等直接或者间接有偿咨询服务的活动接受投资人或者客户委托提供证券投资咨询服务举办有关证券投资咨询的讲座报告会分析会等在报刊上发表证券投资咨询的文章评论报告以及通过电台电视台等公众传播媒体提供证券投资咨询服务通过电话传真电脑网络等电信设备系统提供证券投资咨询服务中国证监会认定的其他形式发布证券研究报告是证券投资咨询业务的一种基本形式指证券公司证券投资咨询机构对证券及证券相关产品的价值市场走势或者相关影响因素进行分析形成证券估值投资评级等投资分析意见制作证券研究报告并向客户发布的行为证券研究报告国信证券经济研究所深圳深圳市福田区福华一路125号国信金融大厦36层邮编518046总机0755-82130833上海上海浦东民生路1199弄证大五道口广场1号楼12层邮编200135北京北京西城区金融大街兴盛街6号国信证券9层邮编100032
 
Copyright © 2005 - 2021 Nxny.com All Rights Reserved 备案号:蜀ICP备15031742号-1