Copilot发布进度超预期，爆款应用正在加速落地。1）2023年9月21日，微软召开发布会发布Microsoft Copilot。全新的Copilot将可在Windows系统、必应搜索引擎、Edge浏览器、Microsoft 365等多平台上的使用。2）9月26日，Copilot（预览版）将作为智能助手出现在Windows 11系统的核心位置，可直接回答用户问题、根据要求生成图片、分析用户上传图片并从中寻找信息、总结长文本、控制电脑、寻找并排除系统故障等。同时，浏览器端Copilot也得到了功能优化，可提供个性化答案、支持多模态可视化搜索和图像创建工具。3）11月1日，Copilot将以Microsoft365 Copilot的形式被引入微软企业版的Office系列工作软件中，优化Outlook、Word、Excel、PPT、Loop、OneNote和OneDrive等软件的工作流程，提高用户生产力。此外，微软还将在工作平台上带来全新的Microsoft 365 Chat，可以梳理检索用户工作中的全部数据，包括电子邮件、会议、聊天、文档等，以及网络上的各种信息，保持对用户本人、工作、优先事务，以及所在的企业机构的高度了解。4）另外，商业化也预期同步落地，面向企业版的M365 Copilot定价高达30美金/月，我们认为，此次Copilot的更新带来了从操作系统到办公软件全方面的性能效率优化，AI办公的扩展速度及价值空间均远超预期。
　　海内外应用百花齐放，AIGC浪潮势不可挡。1）从海外来看，除了Copilot之外，AIGC正加速朝各个方向落地，包括Firefly内容创意工具、Salesforece企业管理系统、Character AI娱乐陪伴、苹果AI智能助理、Harvey专业领域LLM、Glean企业知识库平台等多个方向。同时，这些细分领域的龙头产品部分已经跨过了最早的开发测试环节，步入了商业化的第二阶段，不菲的定价也有力彰显了AIGC应用为生产效率带来的革命性跃迁。2）从国内来看，《生成式人工智能服务管理暂行办法》已从8月15日开始正式实行；8月31日起，百度文心一言、讯飞星火等大模型已正式向公众开放，AIGC监管已步入正轨。应用层面国内企业同样在加速落地，金山办公、万兴科技、福昕软件等不断推进。
　　推理显著提振算力需求，相比训练有望再上一个量级。考虑GPT3及3.5为代表的1750亿参数大模型，将A100或H100作为通用的算力设施，根据我们初步测算：1）在训练阶段，若采用算力租赁方式，则单次成本约为百万至千万美元，而为了模型能够达到理想效果，我们预计其至少需要数十次、近百次的训练，对应算力总投入约为亿美元级别；若采用算力建设方式，根据GPUUtils报道，GPT3.5同级别模型约需要数千张H100进行训练，考虑H100价格约为3-4万美元/张，对用算力投入约为近亿美元。2）在推理阶段：仅考虑文字问答场景，以每日6000万访问量、平均5分钟/次的访问时长、每秒生成16个token、算力利用率20%等作为基础假设，为了满足OpenAI官网现有用量，大约需要数万张H100进行推理，相比训练再上一个量级。3）另外，多模态模型需要处理的输入和输出信息将包括文本、图像、视频、音频等，复杂度远超纯文本数据；同时将不同模态的特征进行融合、找到不同模态间的内在关联和交互关系也需要更复杂的模型架构，这也增加了计算负载。根据我们初步估计，算力需求有望扩充数倍至数十倍。
　　相关标的：
　　1）办公应用：金山办公、万兴科技、福昕软件、科大讯飞等。
　　2）落地快&估值性价比：大华股份、漫步者、传音控股、海康威视、紫天科技等。
　　3）算力侧：英伟达、中科曙光、浪潮信息、中际旭创、工业富联、云赛智联、神州数码、拓维信息、四川长虹、烽火通信、海光信息、恒润股份、新易盛、恒为科技、易华录、阿尔特、润建股份、寒武纪、景嘉微、中贝通信、创业黑马等。
　　风险提示：AI技术迭代不及预期风险、经济下行超预期风险、行业竞争加剧风险。
　　

研究报告全文：证券研究报告行业周报2023年09月24日计算机AI代表应用时间表明确Copilot发布进度超预期爆款应用正在加速落地12023年9月21日微软召增持维持开发布会发布MicrosoftCopilot全新的Copilot将可在Windows系统必应搜索引擎Edge浏览器Microsoft365等多平台上的使用29月26日Copilot预览版将作为智能助手出现在Windows11系统的核心位置可直接回答用户问题行业走势根据要求生成图片分析用户上传图片并从中寻找信息总结长文本控制电脑寻找并排除系统故障等同时浏览器端Copilot也得到了功能优化可提供个性化答案支持多模态可视化搜索和图像创建工具311月1日Copilot将以Microsoft计算机沪深30080365Copilot的形式被引入微软企业版的Office系列工作软件中优化Outlook64WordExcelPPTLoopOneNote和OneDrive等软件的工作流程提高用户生48产力此外微软还将在工作平台上带来全新的可以梳理检Microsoft365Chat32索用户工作中的全部数据包括电子邮件会议聊天文档等以及网络上的各16种信息保持对用户本人工作优先事务以及所在的企业机构的高度了解40另外商业化也预期同步落地面向企业版的M365Copilot定价高达30美金月-16我们认为此次Copilot的更新带来了从操作系统到办公软件全方面的性能效率优2022-092023-012023-052023-09化AI办公的扩展速度及价值空间均远超预期海内外应用百花齐放AIGC浪潮势不可挡1从海外来看除了Copilot之外AIGC正加速朝各个方向落地包括Firefly内容创意工具Salesforece企业管理系作者统娱乐陪伴苹果智能助理专业领域企业CharacterAIAIHarveyLLMGlean分析师刘高畅知识库平台等多个方向同时这些细分领域的龙头产品部分已经跨过了最早的开执业证书编号S0680518090001发测试环节步入了商业化的第二阶段不菲的定价也有力彰显了AIGC应用为生邮箱liugaochanggszqcom产效率带来的革命性跃迁2从国内来看生成式人工智能服务管理暂行办法已从8月15日开始正式实行8月31日起百度文心一言讯飞星火等大模型已分析师陈芷婧正式向公众开放AIGC监管已步入正轨应用层面国内企业同样在加速落地金山执业证书编号S0680523080001办公万兴科技福昕软件等不断推进邮箱chenzhijing3659gszqcom相关研究推理显著提振算力需求相比训练有望再上一个量级考虑GPT3及35为代表的1750亿参数大模型将A100或H100作为通用的算力设施根据我们初步测算1计算机OpenAI有望推出多模态GPT模型1在训练阶段若采用算力租赁方式则单次成本约为百万至千万美元而为了2023-09-20模型能够达到理想效果我们预计其至少需要数十次近百次的训练对应算力总投入约为亿美元级别若采用算力建设方式根据GPUUtils报道GPT35同级别2计算机电力现货市场建设迎来里程碑新兴商业模型约需要数千张H100进行训练考虑H100价格约为3-4万美元张对用算力模式有望加速验证2023-09-19投入约为近亿美元2在推理阶段仅考虑文字问答场景以每日6000万访问量3计算机华为智车再迎突破2023-09-17平均5分钟次的访问时长每秒生成16个token算力利用率20等作为基础假设为了满足OpenAI官网现有用量大约需要数万张H100进行推理相比训练再上一个量级3另外多模态模型需要处理的输入和输出信息将包括文本图像视频音频等复杂度远超纯文本数据同时将不同模态的特征进行融合找到不同模态间的内在关联和交互关系也需要更复杂的模型架构这也增加了计算负载根据我们初步估计算力需求有望扩充数倍至数十倍相关标的1办公应用金山办公万兴科技福昕软件科大讯飞等2落地快估值性价比大华股份漫步者传音控股海康威视紫天科技等3算力侧英伟达中科曙光浪潮信息中际旭创工业富联云赛智联神州数码拓维信息四川长虹烽火通信海光信息恒润股份新易盛恒为科技易华录阿尔特润建股份寒武纪景嘉微中贝通信创业黑马等风险提示AI技术迭代不及预期风险经济下行超预期风险行业竞争加剧风险请仔细阅读本报告末页声明2023年09月24日内容目录1Copilot发布进度超预期爆款应用正在加速落地32海内外应用百花齐放AIGC浪潮势不可挡721海外应用多点开花商业化方案彰显AIGC价值722国内AIGC监管走上正轨软件应用价值亟待释放123推理显著提振算力需求相比训练有望再上一个量级154相关标的19风险提示20图表目录图表1Windows11桌面上的Copilot3图表2Windows11中用户可以一键抹去截图中的敏感文字信息4图表3Windows11画图软件中Cocreator通过AI生成的图片4图表4MicrosoftCopilot在必应和Edge的更新应用4图表5采用OpenAIDALLE3的必应图片生成器4图表6Copilot在Outlook中将长电子邮件对话转换为简短摘要5图表7Copilot在Outlook中将长电子邮件对话转换为简短摘要5图表8Copilot在Word通过文字段落一键生成表格5图表9Copilot在Excel中根据历史天气信息生成预测6图表10Copilot在Excel中一键插入Python代码生成图表6图表11Microsoft365Chat的对话框6图表12Firefly定价8图表13AdobeCreativeCloud本次提价策略8图表14Salesforce发布AICloud9图表15CharacterAI定制AI聊天机器人9图表16ChatGPTEnterprise符合SOC2标准能处理敏感数据10图表17ChatGPTEnterprise分析仪表板10图表18Harvey是OpenAIFund的首批投资项目之一11图表19Glean为企业工作空间提供爬行和索引服务11图表20文心一言向全社会开放13图表21WPSAI功能展示13图表22万兴科技天幕多媒体大模型14图表23福昕软件海外版云编辑器15图表24GPT-3训练成本估算16图表25预估LLM在GCPTPUv4芯片上的训练成本16图表26GPT-3175B吞吐测试17图表27生成式大模型推理流程分析18图表28大规模在线推理应用的GPU资源利用率18图表29大规模AI场景下峰谷波动明显19图表30推理所需H100数量19P2请仔细阅读本报告末页声明2023年09月24日1Copilot发布进度超预期爆款应用正在加速落地2023年9月21日微软召开发布会发布MicrosoftCopilot全新的Copilot将统一并衔接用户在Windows系统必应搜索引擎Edge浏览器Microsoft365即WordExcelOutlook等工作软件多平台上的使用全方面优化用户体验带来显著生产力提升9月26号的Windows11更新版本22H2中Copilot预览版将出现在操作系统的核心位置与用户的操作实现无缝衔接提供集中式的AI辅助帮助用户节省时间并提高工作效率Win11中的Copilot可以直接回答用户问题根据要求生成图片分析用户上传图片并从中寻找信息总结长文本控制电脑包括投屏设定倒计时更改音量壁纸等寻找并排除系统故障用户可以从任务栏上直接访问或通过WinC键从任何应用软件中快捷使用Copilot图表1Windows11桌面上的Copilot资料来源微软官网国盛证券研究所除Copilot之外本次Windows11的更新还将提供150多项新功能为画图照片剪贴板等应用程序相结合带来全新的AI体验画图增强了用于绘图和数字创作的AI功能增加了背景移除和图层功能同时添加了有着生成式AI功能的Cocreator预览版照片增强的AI功能使得编辑照片更加容易新增的背景模糊功能可以自动查找照片中的背景实现一下单击即突出主体并模糊背景的功能搜索功能也得到了优化用户可以通过检索照片的内容和地点快速找到存储在OneDrive家庭或个人账户中的照片截图工具用户可以将图像或者从图像中提取的文本内容直接粘贴到Copilot窗口中进行实时编辑截图的屏幕可以一键抹去文本以保护用户的敏感信息此外增加了通过语音指令截图的功能Clipchamp视频编辑软件添加了自动构图功能可根据图像和镜头自动提供场景编辑和叙事建议记事本自动保存记录状态并自动还原先前打开的标签页和未保存的内容用户可以随时关闭记事本并在返回应用程序时继续工作不必中断Outlook新Windows版本用户可以在Outlook中连接使用各种邮箱账户P3请仔细阅读本报告末页声明2023年09月24日包括GmailYahooiCloud等AI可以协助撰写清晰简洁的电子邮件并从OneDrive无缝添加文件和照片为附件文件资源管理器优化文件资源管理器主页地址栏和搜索框帮助用户更轻松地访问内容无需打开文件即可进行协作图表2Windows11中用户可以一键抹去截图中的敏感文字信息图表3Windows11画图软件中Cocreator通过AI生成的图片资料来源微软官网国盛证券研究所资料来源微软官网国盛证券研究所即将推出的浏览器端Copilot呈现为必应搜索引擎和Edge浏览器上的BingChat也得到了功能优化提供个性化答案支持多模态可视化搜索和图像创建工具例如如果用户在必应搜索过某只球队那么下次计划旅行时必应就会主动告诉用户该队是否正在目的地城市进行比赛鉴于用户隐私方面的考虑该功能可以在必应设置中关闭此外采用OpenAIDALLE3模型的必应图片生成器也实现了巨大的飞跃加强了在手指眼睛等细节部位的渲染值得注意的是微软在浏览器端为生成式AI的隐私保护做出了进一步更新1微软在浏览器端为生成式AI的相关内容添加了新的内容凭证该凭证使用加密方法为浏览器端的Copilot即BingChat中所有AI生成的图像添加了不可见的数字水印包括最初创建的时间和日期2基于微软Copilot的企业版BingChat添加了额外的商业信息保护根据发布会消息自两个月前企业版BingChat的发布以来目前有16亿的微软365用户可以免费使用用户反响优秀微软承诺用户在BingChat的聊天记录并不会被保存微软本身无权限观看其数据也不会被用于未来大模型的训练图表4MicrosoftCopilot在必应和Edge的更新应用图表5采用OpenAIDALLE3的必应图片生成器资料来源微软官网国盛证券研究所资料来源微软官网国盛证券研究所操作系统和浏览器之外Copilot将在11月1日以Microsoft365Copilot的形式被引入微软企业版的Office系列工作软件中优化OutlookWordExcelLoopOneNote和OneDrive等软件的工作流程提高用户生产力P4请仔细阅读本报告末页声明2023年09月24日Outlook1Copilot可以总结往返电子邮件提供带有注释的关键信息清单并附上建议的操作项目回复和后续会议帮助用户快速的从总结内容跳转到的信息来源2起草电子邮件时可以选择听起来像我功能让Copilot匹配用户的写作风格3自动录制用户无法实时参加的Teams会议录制结束后Copilot会通过邮件提醒用户并附上整理的会议纪要提醒用户需要操作的事项图表6Copilot在Outlook中将长电子邮件对话转换为简短摘要图表7Copilot在Outlook中将长电子邮件对话转换为简短摘要资料来源微软官网国盛证券研究所资料来源微软官网国盛证券研究所Word1Copilot可以为任何文档制作清单式的摘要作为回顾2重写一段文字并提供一系列选项以供用户选择用户还可以可以调整重写语气使其更加中性休闲或专业3通过文字段落直接生成表格并根据用户指令修改在xxx添加一列xxx内容图表8Copilot在Word通过文字段落一键生成表格资料来源微软官网国盛证券研究所Excel1Copilot可以帮助用户分析编辑数据并调整表格形式实现快速添加公式列筛选排序数据将值低于xxx的所有单元格设为红色等指令2Excel接入Python并由Copilot一键生成Python代码创建强大专业的可视化效果生成预测并节省处理数据的时间P5请仔细阅读本报告末页声明2023年09月24日图表9Copilot在Excel中根据历史天气信息生成预测图表10Copilot在Excel中一键插入Python代码生成图表资料来源微软官网国盛证券研究所资料来源微软官网国盛证券研究所OneNote1快速生成OneNote笔记内容的摘要2回答诸如这个过程的优点和缺点是什么之类的综合问题帮助用户更深入的了解笔记内容此外微软还将在工作平台上带来全新的Microsoft365Chat革新用户工作体验微软最初今年3月的演示中推出了当时还被称为BusinessChat的Microsoft365Chat经过半年的研发迭代以及与Visa通用汽车毕马威和LumenTechnologies等客户的共同探索和研究当下新款的Microsoft365Chat可以梳理检索用户工作中的全部数据包括电子邮件会议聊天文档等以及网络上的各种信息保持对用户本人工作优先事务以及所在的企业机构的高度了解它可以回答简单的问题并帮助用户快速完成复杂繁琐的任务比如撰写策略文档预订商旅行程或跟进电子邮件等一些范例的使用包括用户正在处理一个项目并且正在寻找一个关键日期依稀记得某人在一个文档中共享了该日期可以询问Microsoft365Chat上周有人共享了一个文档该文档定义了项目X的关键可交付日期这些日期是什么时候用户需要确保没有错过项目经理提供的任何重要信息可以直接在Microsoft365Chat发出指令汇总过去两周内来自X的消息为我指出任何重要详细信息例如可交付结果截止日期和拟办事项用户需要将文档转换为PPT我需要将文件转换为面向非技术受众的20分钟演示文稿假设目标受众是xxx我们要向其介绍我们的产品图表11Microsoft365Chat的对话框资料来源微软官网国盛证券研究所我们认为此次Copilot的更新带来了从操作系统到办公软件全方面的性能效率优化P6请仔细阅读本报告末页声明2023年09月24日AI办公的扩展速度及价值空间均远超预期根据发布会公布数据在一个工作日内微软最繁忙的用户平均需要检索18次收到超过250封Outlook电子邮件并发送或阅读近150条Teams聊天信息全球范围内Teams用户每周参加的会议数量相比2020年增加了三倍而在Windows上有些人一天内就需要使用11个应用程序来完成工作商业化同步落地高达30美金月的定价有力验证了AIGC价值从时间线来看微软将于9月26日在Windows11的免费更新上推出预览版Copilot随后基于Copilot的BingChat将于今年秋季陆续在必应搜索引擎Edge浏览器上全面推出企业版BingChat未来将作为独立产品提供每人每月5美元11月1日Microsoft365Copilot将携手Microsoft365Chat登录微软企业版Office工作软件在基础的订阅费用上增加每人每月30美元2海内外应用百花齐放AIGC浪潮势不可挡21海外应用多点开花商业化方案彰显AIGC价值除了Copilot之外我们在海外看到了AIGC正朝各个方向落地包括内容创意工具企业管理系统AI娱乐陪伴AI智能助理专业领域LLM企业知识库平台等多个方向同时这些细分领域的龙头产品已经跨过了最早的开发测试环节步入了商业化的第二阶段不菲的定价也有力彰显了AIGC应用为生产效率带来的革命性跃迁AIGC应用正在加速落地1Firefly正式推出已集成至AdobeCC多个产品线自有AI模型全面覆盖文生图创意填充文字渲染重新着色草图细化3D图像等多种创意功能2023年9月13日Adobe发布新的Firefly生成式AI模型和Web应用程序经过六个月的成功测试后Firefly驱动的功能现已深入集成到AdobeCreativeCloudAdobeExpress和AdobeExperienceCloud的创意工作流程中并可用于商业用途22023年9月14日Adobe董事长兼首席执行官ShantanuNarayen表示通过我们产品组合的创新我们正在全球范围内开启人工智能增强创造力的新时代最近推出的FireflyExpressCreativeCloud和GenStudio使数百万用户可以使用Adobe的魔力Firefly商业化方案已公布Adobe将实施点数计费即GenerativeCredits1据Adobe官方页面显示由于使用人工智能模型生成内容需要大量的计算资源因此Adobe将开始为AI生成内容实施新的点数计费2在2023年11月1日之前CreativeCloudAdobeFireflyAdobeExpress和AdobeStock付费订阅者仍不受额度的限制3自2023年11月1日起将实行限额生成积分的消耗取决于生成输出的计算成本和所使用的生成人工智能功能的价值免费用户每月可以获得25个点数付费用户通过每月单独支付499美元可以获得100个生成点数用于Firefly的各项AIGC功能若用户购买包含AdobeFirefly的产品例如ExpressPS等每月也可获得一定点数普遍为500点若用户购买CC全家桶每月生成点数限额将达到1000P7请仔细阅读本报告末页声明2023年09月24日图表12Firefly定价资料来源Adobe官网国盛证券研究所AdobeCC亦重新定价提价幅度约为10自11月1日起正式实行2023年11月1日起北美中美洲南美洲和欧洲特定CreativeCloud计划的价格将上涨本次提价涉及的订阅方案涨幅整体约为10图表13AdobeCreativeCloud本次提价策略方案细分方案提价前美元提价后美元变动幅度CreativeCloudfor年度订阅按月付费20992299953individualSingle月度订阅按月付费31493449953AppPlans年度订阅按年付费23988263881001年度订阅按月付费54995999909CreativeCloudfor月度订阅按月付费82498999909individualAllApps年度订阅按年付费59988659881000CreativeCloudfor单一应用程序按月付费35993799556Teams全应用程序按月付费84998999588CreativeCloudforEnterpriseand视情况而定---ResellerPlans资料来源Adobe官网国盛证券研究所2Salesforce发布AICloud年包36万美金起2023年6月12日Salesforce宣布推出AICloud这是Salesforce通过生成式AI增强客户体验和公司效率的最快最值得信赖的方式AICloud是一套经过优化的功能可在所有应用程序和工作流中提供可信开放和实时的生成体验销售AICloud使销售代表能够快速自动生成根据客户需求的个性化电子邮件服务自动生成个性化的座席聊天回复和个案摘要营销人员自动生成个性化内容通过电子邮件移动设备网络和广告吸引客户和潜在客户商务商家可以自动生成见解和建议以在买家旅程的每一步提供自定义的商务体验开发人员自动生成代码预测代码中的潜在错误并提出修复建议P8请仔细阅读本报告末页声明2023年09月24日图表14Salesforce发布AICloud资料来源Salesforce公众号国盛证券研究所3CharacterAI推出用户可定制自己的AI聊天机器人5月23日这款人工智能聊天机器人平台的移动版面向全球iOS和安卓用户推出CharacterAI的最大优势是它以用户为中心的产品设计用户可以完全定制自己的AI聊天机器人来缓解孤独感CharacterAI推出了高级服务cai提供了与ChatGPTPlus类似的一系列特权比如更快的响应时间在使用高峰期间访问以及提前访问新功能还宣布与谷歌云建立战略合作伙伴关系以建立和培训其人工智能模型该公司表示这笔交易将使这家初创公司使用谷歌云的张量处理器单元TensorProcessorUnits来更快更有效地训练和推断LLM大型语言模型图表15CharacterAI定制AI聊天机器人资料来源CharacterAI官网国盛证券研究所4苹果增加支出开发对话式人工智能Siri有望朝智能助理迈进9月6日据科技媒体TheInformation报道苹果正增加支出开发对话式人工智能苹果公司已经将其用于AI计算的预算扩大到每天数百万美元其目标之一是开发一些允许iPhone客户使用简单的语音命令来自动化涉及多个步骤的任务的功能例如这项技术可以让人们告诉手机上的Siri语音助手使用他们拍摄的最后五张照片创建GIF并将其发送给朋友目前iPhone用户必须手动对各个操作进行编程才能完成此前在7月19日彭博社报道苹果正在内部开发自己的类ChatGPTAI聊天机器人一些工程师直接简明P9请仔细阅读本报告末页声明2023年09月24日扼要地将其称之为AppleGPT我们认为大模型有望提升Siri能力同时APPStore的生态很容易让未来更智能的Siri与各应用打通调用各类应用实现不同功能从功能简单的语音助手成为强大的智能助理5OpenAI推出ChatGPT企业版提供高级分析功能的同时加强了安全保护8月28日OpenAI宣布推出ChatGPTEnterprise提供企业级安全和隐私无限的高速GPT-4访问用于处理更长输入的更长上下文窗口高级数据分析功能自定义选项等等OpenAI官网称ChatGPTEnterprise的发布标志着人工智能工作助手又向前迈进了一步它可以帮助完成任何任务为用户的组织定制并保护用户的公司数据OpenAI称ChatGPTEnterprise是迄今为止最强大的ChatGPT版本具有以下特点1企业级安全和隐私-客户提示和公司数据不用于训练OpenAI模型-静态数据加密AES256和传输中数据加密TLS12-经认证符合美国注册会计师协会AICPA的SOC2标准2适合大规模部署的功能-具有批量会员管理功能的管理控制台-单点登录-域名验证-用于了解使用情况的分析仪表板3快速无上限的访问GPT-4-无限制高速访问GPT-4和高级数据分析-32k长度token的上下文窗口-可共享的聊天模板供公司协作和构建工作流程我们认为ChatGPTEnterprise的推出解决了在办公领域的安全隐私问题以及对模型的性能要求问题图表16ChatGPTEnterprise符合SOC2标准能处理敏感数据图表17ChatGPTEnterprise分析仪表板资料来源OpenAI官网国盛证券研究所资料来源OpenAI官网国盛证券研究所6Harvey是OpenAIFund的首批投资项目之一为律师事务所定制LLMHarvey是OpenAIFund的首批投资项目之一OpenAI在法律领域的押注一定程度上代表了他们对GPT-4有机会再造法律领域的信心SamAltman在一次访谈中也提到对GPT-4在法律场景应用的期待其次Harvey的创始团队兼具模型训练经验和法律行业实践这样的组合可以说是新兴技术改造专业服务领域的创业团队的理想画像Harvey的产品尚未开始公开销售其披露的标杆客户包括AllenOvery及普华永道根据海外独角兽公众号新一轮投资方红杉的公开信息披露目前有15万家律师事务所正在排P10请仔细阅读本报告末页声明2023年09月24日队使用Harvey图表18Harvey是OpenAIFund的首批投资项目之一资料来源Harvey官网国盛证券研究所7Glean大模型时代的企业内入口级产品为企业工作空间提供爬行和索引服务Glean是企业搜索和知识管理平台因为充分利用自身积累的企业数据积极拥抱LLM受到关注Glean与100SaaS应用相连接用户可以跨应用搜索企业数据并且针对不同用户个性化生成答案和结果Glean采用矢量搜索和关键词搜索相结合的方式针对客户公司的语言和背景等为每一个客户公司训练定制化的AI模型构建有关公司人员内容和互动的知识图谱每一个用户的搜索结果都将基于知识图谱的数据个性化呈现此外用户还可以在Glean上执行与之连接的SaaS应用的轻量级功能例如在Glean上直接启动会议创建Jira文档等等图表19Glean为企业工作空间提供爬行和索引服务资料来源Glean官网国盛证券研究所P11请仔细阅读本报告末页声明2023年09月24日22国内AIGC监管走上正轨软件应用价值亟待释放7月13日国家网信办联合国家发展改革委教育部科技部工业和信息化部公安部广电总局公布生成式人工智能服务管理暂行办法以下称办法自2023年8月15日起施行我们认为办法出台有利于促进生成式人工智能健康发展近年来生成式人工智能技术快速发展为经济社会发展带来新机遇的同时也产生了传播虚假信息侵害个人信息权益数据安全和偏见歧视等问题如何统筹生成式人工智能发展和安全引起各方关注出台办法既是促进生成式人工智能健康发展的重要要求也是防范生成式人工智能服务风险的现实需要审慎和分类分级监管监管范围明确利好生成式人工智能服务提供方有序发展在监管方式上国家互联网信息办公室有关负责人就生成式人工智能服务管理暂行办法答记者问中指出提出对生成式人工智能服务实行包容审慎和分类分级监管要求国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用完善与创新发展相适应的科学监管方式制定相应的分类分级监管规则或者指引备案要求方面办法相比于征求意见稿明确了提供具有舆论属性或者社会动员能力的生成式人工智能服务的应当按照国家有关规定开展安全评估并按照互联网信息服务算法推荐管理规定履行算法备案和变更注销备案手续防沉迷方面办法明确了采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务服务规范方面办法要求提供者应当与注册其服务的使用者签订服务协议明确双方权利义务删去了征求意见稿第九条提供生成式人工智能服务应当按照中华人民共和国网络安全法规定要求用户提供真实身份信息的要求多项具体促进发展措施国内AIGC应用有望加速落地网信办有关负责人就生成式人工智能服务管理暂行办法答记者问中指出在促进发展具体措施上一是明确鼓励生成式人工智能技术在各行业各领域的创新应用生成积极健康向上向善的优质内容探索优化应用场景构建应用生态体系二是支持行业组织企业教育和科研机构公共文化机构有关专业机构等在生成式人工智能技术创新数据资源建设转化应用风险防范等方面开展协作三是鼓励生成式人工智能算法框架芯片及配套软件平台等基础技术的自主创新平等互利开展国际交流与合作参与生成式人工智能相关国际规则制定四是提出推动生成式人工智能基础设施和公共训练数据资源平台建设促进算力资源协同共享提升算力资源利用效能推动公共数据分类分级有序开放扩展高质量的公共训练数据资源鼓励采用安全可信的芯片软件工具算力和数据资源8月31日起百度文心一言讯飞星火等大模型已正式向公众开放18月31日凌晨百度发布重磅消息宣布文心一言将从8月31日起率先向全社会全面开放用户可以在应用商店下载文心一言APP或登录文心一言官网体验百度还将开放一批经过全新重构的AI原生应用让广大用户充分体验生成式AI的理解生成逻辑记忆四大核心能力29月5日科大讯飞宣布讯飞星火认知大模型正式向全民开放使用用户可以在各大应用商店下载讯飞星火APP或登陆讯飞星火官网直接注册使用截至今年8月讯飞星火已在科大讯飞AI学习机讯飞智能办公本讯飞听见星火语伴等C端软硬件落地应用P12请仔细阅读本报告末页声明2023年09月24日图表20文心一言向全社会开放资料来源百度公众号国盛证券研究所国内应用企业亦在加速落地金山办公万兴科技福昕软件等不断推进1金山办公WPSAI正式面向社会开放率先应用在智能文档9月5日WPSAI正式面向社会开放率先应用在WPS智能文档更多WPSAI能力将在其他组件开放用户可在最新版WPS客户端APP金山文档小程序官网体验WPS智能文档基于WPSAI的WPS智能文档支持内容生成表达优化文档理解及处理等功能内容生成方面例如头脑风暴新闻稿周报招聘启事活动策划等WPS智能文档可帮助用户快速起草文章大纲生成优质内容当用户需要对全文进行总结扩写缩写切换文风改正病句翻译等工作时AI能力会让内容更符合用户的需求实现表达优化WPS智能文档还支持多文档处理可依据多个文档快速进行归纳总结如根据本周多个工作文档自动生成一篇完整的周报并分析总结下周的工作计划图表21WPSAI功能展示资料来源金山办公视频号国盛证券研究所2万兴科技快速迭代产品即将发布天幕多媒体大模型1万兴喵影Filmora聚焦智能高效云服务三大方向一次性新增AI智能抠像AI音频重组AI智能降噪等一系列AI工具智能套件高级功能同时率先开始AIGC功能的集成落地并在产品中接入ChatGPT全新上线AI文案写作功能P13请仔细阅读本报告末页声明2023年09月24日2万兴播爆Virbo全新推出的0门槛AI生成脚本功能能够为用户带来从脚本到真人出镜到视频自动生成的全链路AIGC创作体验3亿图图示EdrawMax不仅支持输入关键词一键绘制流程图功能还支持通过AI连续性问答的方式对正在绘制的流程图进行逻辑分析错误矫正细节优化此外亿图AI还支持上传PDFtxtword等格式文件并通过亿图AI进行总结提问或者一键转为思维导图流程图等可视化图形不需要用户自己排版4万兴PDFPDFelement在业内领先上线高度智能的AI侧边栏打造全新AI工具集并带来更安全的电子签名功能5天幕多媒体大模型9月15日万兴科技宣布即将发布国内首个专注于以视频创意应用为核心的百亿级参数多媒体大模型天幕天幕依托基础大模型及高性能全球网络平台计算集群算力平台海量数据平台由视频大模型音频大模型图片大模型文本大模型组成涵盖当前市面上语言音频图像的大模型能力包括视觉音频语言多模态AI生成及优化具备一键成片AI美术设计文生音乐音频增强音效分析多语言对话等核心能力并将在视觉听觉等多模态关键能力上进行持续迭代图表22万兴科技天幕多媒体大模型资料来源万兴科技官方公众号国盛证券研究所3福昕软件海外云产品率先接入AIGC国内积极合作百度文心今年在基于深度学习算法的AIGC技术全面爆发并迅速在商业层面得到越来越广泛的应用时福昕继续加大AI技术在智能文档方面的投入并于上半年推动海外版云产品PDFEditorCloud率先集成AIGC技术实现了文档总结内容改写实时问答文本翻译文档智能解析及增强问答文本解释语法拼写纠错等八大功能福昕软件还在日前接入百度文心千帆大模型成功推出福昕PDF中文AI助手同样可为中国区用户提供文本翻译文本概要AI聊天等AIGC功能进一步强化文档处理和知识获取的智能化程度当前福昕AI助手率先应用于福昕高级PDF编辑器网页版尚在测试阶段暂时面向受邀用户和申请试用的企业用户开启访问P14请仔细阅读本报告末页声明2023年09月24日图表23福昕软件海外版云编辑器资料来源福昕软件官方公众号国盛证券研究所3推理显著提振算力需求相比训练有望再上一个量级考虑GPT3及35为代表的1750亿参数大模型将A100或H100作为通用的算力设施根据我们初步测算推理侧需求或为训练侧需求的数十倍算力需求未来有望持续释放1训练侧需要对应数千张H100算力投入或为近亿美元多模态需求再提升数倍至十倍对于大语言模型研发企业而言其一般具备智能云算力租赁与自行购置算力设施两种方案1算力租赁我们估算其成本约为百万至千万美元次而为了模型能够达到理想效果我们预计其至少需要数十次近百次的训练则对应算力总投入约为亿美元级别根据估算GPT-3单次训练成本约为140万美元对于一些更大的LLM模型训练成本单次约达到1120万美元基于参数数量和token数量根据OneFlow估算GPT-3训练一次的成本约为1398万美元每个token的训练成本通常约为6N而推理成本约为2N其中N是LLM的参数数量假设在训练过程中模型的FLOPS利用率为462与在TPUv4芯片上进行训练的PaLM模型拥有5400亿参数一致P15请仔细阅读本报告末页声明2023年09月24日图表24GPT-3训练成本估算资料来源OneFlow国盛证券研究所对于一些更大的LLM模型如拥有2800亿参数的Gopher和拥有5400亿参数的PaLM采用同样的计算公式可得出训练成本介于200万美元至1200万美元之间图表25预估LLM在GCPTPUv4芯片上的训练成本PaLMGPT-3GopherMT-NLGGoogleOpenAIGoogleDeepMindMicrosoftNvidiaResearchModelParameters175B280B530B540BFLOPsTokenModelParameter6TPUsMachine4PeakFLOPSTPU275TFLOPSUtilization4620CostMachineHour1-yearreserved812SecondsHour3600TrainingCost1000Tokens00047000750014100144TrainTokens300B300B270B780BTrainingCost13980722236915381074411216529资料来源OneFlow国盛证券研究所2自行算力建设GPT35同级别模型约需要数千张H100对应算力投入仍约为近亿美元GPT35同级别模型约需要数千张H100进行训练根据GPUUtils报道Inflection表示针对他们与GPT35相当的大语言模型其使用了大约3500张H100进行训练2同时对于初创公司而言其需要数千张H100对大语言模型进行训练需要几十张或者小几百张H100做微调考虑H100价格约为3-4万美元张对用算力投入约为近亿美元根据快科技报道H100价格约合人民币24万元对应3-4万美元张考虑以Inflection为代表的公司算力投入在3500张级别对应总投入或约为近亿美元3多模态算力需求提升约数倍至十倍GPT4或对应数万张A100GPT5或对应数万张H1001根据GPUUtils报道GPT4有可能是在10000-25000张A100上训练的而对于GPT5其可能需要25000-50000张H100进行训练2相比GPT35约数千张H100的需求量GPT4GPT5等相对成熟的多模态模型算力需求提升约数倍至十倍级别P16请仔细阅读本报告末页声明2023年09月24日2推理侧仅考虑文字问答场景需要数万张H100对应算力投入数十亿美元1每日访问量6000万6月6日根据科创板日报报道据SimilarWeb最新数据4月OpenAI网站访问次数已达到18亿次则对应每日访问量约为6000万次2用户平均访问时长5分钟根据科创板日报报道每次访问时长约为5分21秒3单个token输出需要的时间625ms每秒生成token数量16个根据百度智能云的部分案例在BatchSize为1时输出8个token大约需要353ms在BatchSize增加到16时输出8个token大约需要833ms则输出8个token的时间中值约为500ms即05秒即单个token所需要的计算时间约为625ms即00625秒对应每秒生成token数量约为16个图表26GPT-3175B吞吐测试BS输入输出时延msQPS11288353332832128838681517412884495988981288592871349161288833021921资料来源百度智能云技术站国盛证券研究所4平均实时并发33333万个tokens6000万560s16tokens246060s33333万个tokens5算力利用率20Transformer为自回归模型这意味着在原始状态下每生成1个新token都需要将所有输入过的token再次计算根据百度智能云技术研究以175B的GPT-3模型输入1000个token生成250个token为例Context即Encoder阶段的激活Shape为B100012288其中B为batchsize第二维为输入token数第三位为hiddensize而对于GenerationDecoder阶段由于每次输入输出都是固定的1个token是通过循环多次来产生多个输出token所以Generation阶段的激活Shape的第二维始终为1Generation的激活显存占用是远小于Context阶段的由此导致Context是计算密集型的任务而Generation是访存密集型的任务这是由于Context的计算量大但是Generation由于每次都只计算1个token所以计算量远小于Context但是权重的访存量确实一致的所以Generation阶段反而是访存密集型的任务这也意味着在推理阶段硬件的算力利用率由于受到显存带宽等的限制会显著较低P17请仔细阅读本报告末页声明2023年09月24日图表27生成式大模型推理流程分析资料来源百度智能云技术站国盛证券研究所根据百度智能云报道一般情况下在线服务的GPU使用率不高在20左右另外若部署其用户态方案保证在线服务的SLA相同的情况下可以将GPU资源利用率提升至35图表28大规模在线推理应用的GPU资源利用率资料来源百度智能云技术站国盛证券研究所6峰值倍数10倍推理服务一个典型的负载模式是一天中峰谷波动明显且会出现不可预期的短时间流量激增根据百度智能云统计我们假设峰值倍数约为10倍P18请仔细阅读本报告末页声明2023年09月24日图表29大规模AI场景下峰谷波动明显资料来源百度智能云技术站国盛证券研究所7所需算力总量5831019FLOPS21750亿个参数33333万个tokens10倍20算力利用率5831019FLOPS8所需H100数量15-6万张根据英伟达官网H100SXMINT8FP16TF32对应的计算能力分别为3958TOPS1979TFLOPS989TFLOPS则分别对应H100数量约为147295590万张图表30推理所需H100数量计算精度计算能力需要数量张INT83958TOPS14738FP161979TFLOPS29476TF32989TFLOPS58982资料来源英伟达官网国盛证券研究所4相关标的1办公应用金山办公万兴科技福昕软件科大讯飞等2落地快估值性价比大华股份漫步者传音控股海康威视紫天科技等3算力侧英伟达中科曙光浪潮信息中际旭创工业富联云赛智联神州数码拓维信息四川长虹烽火通信海光信息恒润股份新易盛恒为科技易华录阿尔特润建股份寒武纪景嘉微中贝通信创业黑马等P19请仔细阅读本报告末页声明2023年09月24日风险提示AI技术迭代不及预期风险若AI技术迭代不及预期则对产业链相关公司会造成一定不利影响经济下行超预期风险若宏观经济景气度下行固定资产投资额放缓影响企业再投资意愿从而影响消费者消费意愿和产业链生产意愿对整个行业将会造成不利影响应用落地将会受限行业竞争加剧风险若相关企业加快技术迭代和应用布局整体行业竞争程度加剧将会对目前行业内企业的增长产生威胁P20请仔细阅读本报告末页声明