事项：
　　2022年11月30日人工智能实验室OpenAI发布全新聊天机器人模型ChatGPT，其是一款人工智能技术驱动的自然语言处理工具。自从ChatGPT推出以来，受到市场广泛关注，当前每日用户超过1000万人。
　　评论：
　　Chatgpt成本主要可以拆分成训练和推理两个阶段。人工智能主要分为计算机视觉和自然语言处理两大基础方向，当前自然语言处理类任务基于大型语言模型（LLM，Large Language Model）演进出了最主流的两个主要方向，BERT（基于Transformer的双向编码器表示技术）和GPT（基于Transformer生成预训练技术），Google属于BERT技术方向，微软投资的OpenAI属于GPT技术方向。从计算过程上，人工智能计算主要可以分为模型训练与推理两个阶段，针对大语言模型LLM更是如此，随着参数与数据规模的不断增大，将带动拉动算力需求的快速增长。
　　“token”是当前语言类模型的数据单位。当前的自回归语言模型是根据token来作为单位进行数据处理和计算，分词（tokenization）就是将句子、段落、文章这类型的长文本分解为以token为单位的数据结构，把文本分词后每个词表示成向量进行模型计算。例如在英文语境下，“happy”可能被分解为“hap”、“-py”两个token，中文语境下，“我很开心”可以分成“我”，“很”，“开心”三个token。
　　以英伟达DGXA1OO服务器作为计算资源：（1）单台服务器售价20万美元；（2）采用云服务单天成本约为460美元。根据英伟达官网数据，英伟达超算GPU系列从旧到新包括P100、V100、A100、H100等，其中，DGXA100系列服务器为2020年发布，是当前主流使用的超算服务器，单机有8个A100系列GPU，AI算力性能为5 PetaFLOP/s，单机最大功率6.5kw，售价19.9万美元；如果租用云服务，根据亚马逊数据显示，在亚马逊AWS预定一年的A100系列GPU，有8个A100的AWSP4实例的平均成本约19.22美元，一天的平均成本约为461.28美元。
　　ChatGPT上一个30字的问题需要消耗计算资源0.12 PetaFLOP/S。最常见的Transformer类语言模型在推理过程中每个token的计算成本（以FLOPs为指标）约为2N，其中N为模型参数数量（20年发布的GPT-3拥有1750亿参数，22年谷歌发布的PaLM拥有5400亿参数，由于并未公布当前GPT3.5的参数数量，当前假定参数数量为3000亿），假设模型的FLOPS利用率约为20%，粗略估计ChatGPT一个30字（假设约40个token，注：在英文语境下，一般1000个token=750个单词）问题需要的算力资源为2*40*3000亿/20%=0.12 PetaFLOP/S。
　　推理成本：为满足当前用户访问产生的推理成本，自建IDC初始投入约在4亿美元，租用云服务每日成本约28万美元。根据Similarweb的数据，23年1月份当前ChatGPT日活约1300万人，每人平均1000字左右的问题，因此合计产生约130亿字（173.3亿个token），假设24小时平均分配任务，需要的A100 GPU数量为173.3亿*2*3000亿/（20%*24小时*3600秒）=601.75 PetaFLOP/S，由于访问流量存在峰值，假定访问峰值是一天均值的5倍，因此共需要602台DGXA100服务器能够满足当前的访问量。
　　(1)自建IDC：服务器成本约占数据中心成本30%左右，为满足当前日常访问需求，前期一次性成本投入约为602*19.9/30%=3.99亿美元；
　　(2)云服务：假设每天租用亚马逊AWS云服务，每天成本为461.28*602=27.77万美元。
　　训练成本：训练阶段每个Token的训练成本约为6N（推理成本为2N），由于每年训练成本都在快速下降，此处引用OneFlow的测算结果，在公有云中训练OPENAI的GPT-3模型需花费训练成本约140万美元，Google的PaLM模型需花费训练成本约1120万美元。
　　预计在ChatGPT结合Bing搜索功能后，其对算力资源的消耗将成数倍增长。当前ChatGPT模型可以理解为在一个在庞大训练数据集上训练的LLM，它会将训练期间的知识存储到模型参数中。在推理过程中（使用模型生成输出），LLM无法访问外部知识，仅依靠模型参数进行计算；如果将ChatGPT与搜索功能结合，如Bing等搜索引擎，其计算过程将通过搜索引擎返回多个查询结果，并通过GPT计算生成多个响应，在返回最高分的响应给用户，其对算力资源的消耗将成数倍增长，增长倍数取决于搜索和响应的个数。
　　投资建议：
　　当前处在以ChatGPT为主线的新一轮人工智能创新周期，ChatGPT为人工智能产业注入新活力，有望带动AIGC类应用快速爆发，人工智能技术作为驱动数据经济的技术底层，有望迎来新的发展机遇。数据、算力与算法是人工智能时代的三大基石，三者相互促进带动AI+应用快速落地，ChatGPT为首的自然语言处理类技术及应用，有望迎来全面爆发，建议重点关注人工智能相关赛道。
　　风险提示：
　　模型假设不合理对测算结果造成偏差，ChatGPT商业化落地不及预期。
　　

研究报告全文：证券研究报告2023年02月14日人工智能行业点评超配ChatGPT对算力的需求究竟如何公司研究公司快评计算机投资评级超配维持评级证券分析师熊莉021-61761067xiongli1guosencomcn执证编码S0980519030002联系人黄浩峻0755-81981812huanghaojunguosencomcn事项2022年11月30日人工智能实验室OpenAI发布全新聊天机器人模型ChatGPT其是一款人工智能技术驱动的自然语言处理工具自从ChatGPT推出以来受到市场广泛关注当前每日用户超过1000万人评论Chatgpt成本主要可以拆分成训练和推理两个阶段人工智能主要分为计算机视觉和自然语言处理两大基础方向当前自然语言处理类任务基于大型语言模型LLMLargeLanguageModel演进出了最主流的两个主要方向BERT基于Transformer的双向编码器表示技术和GPT基于Transformer生成预训练技术Google属于BERT技术方向微软投资的OpenAI属于GPT技术方向从计算过程上人工智能计算主要可以分为模型训练与推理两个阶段针对大语言模型LLM更是如此随着参数与数据规模的不断增大将带动拉动算力需求的快速增长token是当前语言类模型的数据单位当前的自回归语言模型是根据token来作为单位进行数据处理和计算分词tokenization就是将句子段落文章这类型的长文本分解为以token为单位的数据结构把文本分词后每个词表示成向量进行模型计算例如在英文语境下happy可能被分解为hap-py两个token中文语境下我很开心可以分成我很开心三个token以英伟达DGXA1OO服务器作为计算资源1单台服务器售价20万美元2采用云服务单天成本约为460美元根据英伟达官网数据英伟达超算GPU系列从旧到新包括P100V100A100H100等其中DGXA100系列服务器为2020年发布是当前主流使用的超算服务器单机有8个A100系列GPUAI算力性能为5PetaFLOPs单机最大功率65kw售价199万美元如果租用云服务根据亚马逊数据显示在亚马逊AWS预定一年的A100系列GPU有8个A100的AWSP4实例的平均成本约1922美元一天的平均成本约为46128美元ChatGPT上一个30字的问题需要消耗计算资源012PetaFLOPS最常见的Transformer类语言模型在推理过程中每个token的计算成本以FLOPs为指标约为2N其中N为模型参数数量20年发布的GPT-3拥有1750亿参数22年谷歌发布的PaLM拥有5400亿参数由于并未公布当前GPT35的参数数量当前假定参数数量为3000亿假设模型的FLOPS利用率约为20粗略估计ChatGPT一个30字假设约40个token注在英文语境下一般1000个token750个单词问题需要的算力资源为2403000亿20012PetaFLOPS推理成本为满足当前用户访问产生的推理成本自建IDC初始投入约在4亿美元租用云服务每日成本约28万美元根据Similarweb的数据23年1月份当前ChatGPT日活约1300万人每人平均1000字左右的问题因此合计产生约130亿字1733亿个token假设24小时平均分配任务需要的A100GPU数量为1733亿23000亿2024小时3600秒60175PetaFLOPS由于访问流量存在峰值假定访问峰值是一天均值的5倍因此共需要602台DGXA100服务器能够满足当前的访问量请务必阅读正文之后的免责声明及其项下所有内容1证券研究报告1自建IDC服务器成本约占数据中心成本30左右为满足当前日常访问需求前期一次性成本投入约为60219930399亿美元2云服务假设每天租用亚马逊AWS云服务每天成本为461286022777万美元训练成本训练阶段每个Token的训练成本约为6N推理成本为2N由于每年训练成本都在快速下降此处引用OneFlow的测算结果在公有云中训练OPENAI的GPT-3模型需花费训练成本约140万美元Google的PaLM模型需花费训练成本约1120万美元预计在ChatGPT结合Bing搜索功能后其对算力资源的消耗将成数倍增长当前ChatGPT模型可以理解为在一个在庞大训练数据集上训练的LLM它会将训练期间的知识存储到模型参数中在推理过程中使用模型生成输出LLM无法访问外部知识仅依靠模型参数进行计算如果将ChatGPT与搜索功能结合如Bing等搜索引擎其计算过程将通过搜索引擎返回多个查询结果并通过GPT计算生成多个响应在返回最高分的响应给用户其对算力资源的消耗将成数倍增长增长倍数取决于搜索和响应的个数投资建议当前处在以ChatGPT为主线的新一轮人工智能创新周期ChatGPT为人工智能产业注入新活力有望带动AIGC类应用快速爆发人工智能技术作为驱动数据经济的技术底层有望迎来新的发展机遇数据算力与算法是人工智能时代的三大基石三者相互促进带动AI应用快速落地ChatGPT为首的自然语言处理类技术及应用有望迎来全面爆发建议重点关注人工智能相关赛道风险提示模型假设不合理对测算结果造成偏差ChatGPT商业化落地不及预期相关研究报告信息安全深度剖析5密评和信创双催化密码产业开启从1到N2023-02-13计算机行业2023年2月投资策略-人工智能赋能产业升级把握数字经济时代浪潮2023-02-05计算机行业2023年1月投资策略-紧抓高景气赛道关注业绩高增品种2023-01-02计算机行业12月暨2023年投资策略-以信创和安全为基数据要素驱动数字经济大发展2022-12-05大数据系列专题2国产数据库百花齐放崛起正当时2022-11-20请务必阅读正文之后的免责声明及其项下所有内容2证券研究报告免责声明分析师声明作者保证报告所采用的数据均来自合规渠道分析逻辑基于作者的职业理解通过合理判断并得出结论力求独立客观公正结论不受任何第三方的授意或影响作者在过去现在或未来未就其研究报告所提供的具体建议或所表述的意见直接或间接收取任何报酬特此声明国信证券投资评级类别级别说明买入股价表现优于市场指数20以上股票增持股价表现优于市场指数10-20之间投资评级中性股价表现介于市场指数10之间卖出股价表现弱于市场指数10以上超配行业指数表现优于市场指数10以上行业中性行业指数表现介于市场指数10之间投资评级低配行业指数表现弱于市场指数10以上重要声明本报告由国信证券股份有限公司已具备中国证监会许可的证券投资咨询业务资格制作报告版权归国信证券股份有限公司以下简称我公司所有本报告仅供我公司客户使用本公司不会因接收人收到本报告而视其为客户未经书面许可任何机构和个人不得以任何形式使用复制或传播任何有关本报告的摘要或节选都不代表本报告正式完整的观点一切须以我公司向客户发布的本报告完整版本为准本报告基于已公开的资料或信息撰写但我公司不保证该资料及信息的完整性准确性本报告所载的信息资料建议及推测仅反映我公司于本报告公开发布当日的判断在不同时期我公司可能撰写并发布与本报告所载资料建议及推测不一致的报告我公司不保证本报告所含信息及资料处于最新状态我公司可能随时补充更新和修订有关信息及资料投资者应当自行关注相关更新和修订内容我公司或关联机构可能会持有本报告中所提到的公司所发行的证券并进行交易还可能为这些公司提供或争取提供投资银行财务顾问或金融产品等相关服务本公司的资产管理部门自营部门以及其他投资业务部门可能独立做出与本报告中意见或建议不一致的投资决策本报告仅供参考之用不构成出售或购买证券或其他投资标的要约或邀请在任何情况下本报告中的信息和意见均不构成对任何个人的投资建议任何形式的分享证券投资收益或者分担证券投资损失的书面或口头承诺均为无效投资者应结合自己的投资目标和财务状况自行判断是否采用本报告所载内容和信息并自行承担风险我公司及雇员对投资者使用本报告及其内容而造成的一切后果不承担任何法律责任证券投资咨询业务的说明本公司具备中国证监会核准的证券投资咨询业务资格证券投资咨询是指从事证券投资咨询业务的机构及其投资咨询人员以下列形式为证券投资人或者客户提供证券投资分析预测或者建议等直接或者间接有偿咨询服务的活动接受投资人或者客户委托提供证券投资咨询服务举办有关证券投资咨询的讲座报告会分析会等在报刊上发表证券投资咨询的文章评论报告以及通过电台电视台等公众传播媒体提供证券投资咨询服务通过电话传真电脑网络等电信设备系统提供证券投资咨询服务中国证监会认定的其他形式发布证券研究报告是证券投资咨询业务的一种基本形式指证券公司证券投资咨询机构对证券及证券相关产品的价值市场走势或者相关影响因素进行分析形成证券估值投资评级等投资分析意见制作证券研究报告并向客户发布的行为证券研究报告国信证券经济研究所深圳深圳市福田区福华一路125号国信金融大厦36层邮编518046总机0755-82130833上海上海浦东民生路1199弄证大五道口广场1号楼12层邮编200135北京北京西城区金融大街兴盛街6号国信证券9层邮编100032