算法模型：Foundation Model
　　基础模型五个关键特性:表现能力（expressivity）、可扩展性（scalability);、多模态（multimodality）;记忆能力（memory storage)、组合性(compositionality)

研究报告全文：全球人工智能AI行业专题研究系列从ChatGPT看AI技术变革产业化陈俊云中信证券研究部前瞻研究首席分析师2023年3月1日请务必阅读页末免责条款和声明资料来源界面新闻清新汽车autoChatGPT在全球市场快速流行全球部分应用从上线到用户数突破1亿花费时间月Chatgpt2Tiktok9Instagram30Pinterest41Shopify55Telegram61Uber70谷歌翻译780102030405060708090数据来源雅虎财经中信证券研究部1ChatGPT创新工程实践高数据质量RLHFChatgpt模型调优过程数据来源OpenAI2ChatGPT局限性数据实时性问答准确性计算成本等ChatGPT推理任务成本测算表假设模型Layers96假设模型HiddenSize12288假设BatchSize18XA10080GB算力PetaFLOPS5FLOPsUtilization30生成1个token需要内存Bytes261E118XA10080GB带宽TBs48带宽损耗15带宽限制生成一个Token的时间s0064加载参数权重需要的时间s0015加载权重时Input长度367算力计算一个Token的时间s1710-4算力密度临界值320每次回答需要生成Token200单次请求生成时间s12228xA100服务器成本美元小时8单次生成理论最高成本美分273资料来源OpenAI中信证券研究部测算生成式AI技术成熟度人工智能技术成熟度曲线数据来源Gartner中信证券研究部4科技巨头技术储备AI算法模型演进历程数据来源中信证券研究部绘制含预测部分科技企业大语言模型LLM列表公司模型模型参数个OpenAIGPT31750亿谷歌LaMDA1370亿MetaLLaMA6500亿华为盘古2000亿微软英伟达Megatron-LM5300亿阿里巴巴M610万亿百度文心2600亿腾讯混元1000亿DeepmindSparrow700亿5数据来源各公司官网中信证券研究部ChatGPT影响科技巨头军备竞赛数据来源谷歌官网部分科技企业近期在AI领域动态公司时间事件百度2023110将于3月在中国推出生成式搜索人工智能机器人2023128发布生成式AI音乐模型MusicLM2023130向人工智能初创公司AnthropicAI投资约3亿美元谷歌202323未来几周或几个月推出类似ChatGPT的基于人工智能的大型语言模型2023123开启对OpenAI的第三轮投资微软202322宣布将OpenAI相关产品导入旗下云计算OfficeBingVivaSales等产品中6数据来源各公司官网季度财务报告中信证券研究部ChatGPT影响AI生成内容时代到来AIGC能力进化预测7数据来源红杉资本ChatGPT影响AI产业化进程加速AppsEnd-userfacingB2BandB2CapplicationswithoutproprietarymodelsExamplesJasperGithubCopilotEnd-to-EndAppsModelHubsEnd-userfacingapplicationswithproprietarymodelsPlatformstoshareandhostmodelsClosed-SourceFoundationModelsExamplesMidjourneyRunwayExamplesHuggingFaceReplicateLarge-scalepre-trainedmodelsexposedviaAPIsOpen-SourceFoundationModelsExamplesGPT-3OpenAlModelsreleasedastrainedweightsExamplesStableDiffusionStabilityCloudPlatformsComputehardwareexposedtodevelopersinaclouddeploymentmodelExamplesAWSGCPAzureCoreweaveComputeHardwareAcceleratorchipsoptimizedformodeltrainingandinferenceworkloadsExamplesGPUsNvidiaTPUsGoogle8数据来源AndreessenHorowitz中信证券研究部芯片技术进步持续落后于需求增长AI模型和硬件的发展曲线和算力的需求和供给情况9资料来源RishiBommasaniDrewAHudson李飞飞等OntheOpportunitiesandRiskofFoundationModels芯片和算法相互影响相互促进英伟达Hopper架构融入Transformer算法10资料来源英伟达官网芯片中长期市场展望大模型训练环节需求拉动测算构建维护大模型企业机构数102050100单个企业机构维护大模型数量2222对应大模型数量2040100200单个模型对应HGX数量256256256256单个模型对应A100卡数量2048204820482048对应A100卡需求数量万张4096819220484096单张A100卡价格万美元15151515对应资本开支亿美元61123307614商用搜索需求拉动量化测算类别数据全球商用搜索每天调用次数亿1000语言模型渗透率10单次生成成本美分08用户调用成本天百万美元80需要的HGX服务器数量万台60对应的A100显卡数量万张476单张A100卡价格万美元15对应资本开支亿美元71411资料来源英伟达官网中信证券研究部测算芯片国内企业快速崛起全球AI芯片市场部分厂商列表国内GPU相关部分企业梳理企业名称成立时间代表性产品应用场景摩尔线程2020苏堤图形渲染AI计算芯动科技2007风华二号图形渲染AI计算及科学计算龙芯中科20017A2000图形渲染芯瞳2019Genbu01图形渲染海光信息2014深算一号AI训练推理及科学计算壁仞科技2019BR100云端推理训练及科学计算寒武纪2016思元370220云边的推理和训练登临科技2017Goldwasser云边的推理和训练鲲云科技2016CAISA芯片云边数量流推理瀚博2018SV100云端AI推理天数智芯2015BI云端训练燧原科技2018云燧i20云端推理阿里巴巴2018含光800云端推理墨芯2021ANTOUM云端推理沐曦科技2020MXN云端推理华为海思2004昇腾910边缘计算AI昆仑芯20112代加速芯片AI计算华夏芯2014可编程AI加速卡AI计算资料来源各公司官网中信证券研究部12算力平台云厂商是理想的承载者部分云计算巨头AI平台框架公司技术平台框架GoogleTensorFlow系统CloudMachineLearningEngineAmazonAWS分布式机器学习平台MicrosoftDMTKBot框架腾讯腾讯云平台AngelNCNN百度Paddle-Paddle阿里PAI20资料来源各公司官网中信证券研究部阿里云人工智能平台13资料来源阿里云开发者社区算法模型体积scale理论创新工程实践深度学习模型体积不断扩大2015202214数据来源StanfordAIIndex2020中信证券研究部算法模型FoundationModel基础模型五个关键特性表现能力expressivity可扩展性scalability多模态multimodality记忆能力memorystorage组合性compositionality基础模型资料来源RishiBommasaniDrewAHudson李飞飞等OntheOpportunitiesandRiskofFoundationModels15应用场景AIGCAI内容生成16资料来源ARK应用场景企业软件企业应用中平均嵌入的AI能力数量具有AI能力的全球企业应用软件收入十亿美元45600450035340025300215200110005002018201920202021202220192020202120222023E17资料来源麦肯锡含预测中信证券研究部应用场景自动驾驶AI汽车18资料来源理想汽车官网上图Twitterelonmusk下图中信证券研究部感谢您的信任与支持THANKYOU陈俊云前瞻研究首席分析师执业证书编号S1010517080001