>> 华西证券-人工智能行业研究报告-从算力、算法、数据和应用看AIGC:奇点将至,寻他山之石-230319
| 上传日期: |
2023/3/20 |
大小: |
3987KB |
| 格式: |
pdf 共48页 |
来源: |
华西证券 |
| 评级: |
-- |
作者: |
朱芸 |
| 下载权限: |
无限制-登录即可下载 |
|
|
作为海外团队,我们期待该篇报告能够尽可能呈现海外市场当前在生成式AI (AIGC)领域的布局和进展,从算力、算法、数据和应用入手,看清趋势,寻找差异。 一是尽可能减少我们对海外认知的信息差,更重要的是,他山之石,可以攻玉,海外映射是国内可以持续关注的重点 核心要点: AIGC未来已来,超预期持续出现 从2018到2023年,四代GPT模型高速进步,从简单的问答、阅读理解、文本总结,到在众多测试中获得“人类级别表现”评级,AI迭代进化的速度越来越快。可以预期,AI达到人类智能水平、乃至超越人类智能水平的时代会以超预期的形态和速度出现。 数据、算力、算法为AIGC核心要素,海内外厂商各占鳌头 数据,通过算力,最后产生了算法或者应用。数据作为新兴生产要素,数据的拥有者、加工者是产业发展的基础。算力作为基础设施,是AIGC资本开支的主要受益者,核心参与者英伟达、AMD竞争优势显著。AIGC的技术壁垒主要体现在算法上,当前通用型AI由GPT领跑,而在细分领域上,行业内的主要参与者包括谷歌、Meta、Anthropic、Hugging Face和百度等公司。随着细分龙头竞相研发创新算法和优化现有技术、以及模型迭代下对数据、算力的需求高速膨胀,AIGC行业技术壁垒将不断提高,现有优秀参与者护城河极深。 AIGC市场潜力巨大,应用领域迎来生产力解放 根据Tractica的预测数据显示,全球AI软件市场规模将在2025年达到1260亿美元,2021年到2025年年复合增长率为41.02%。一级市场的火热也反映了AIGC发展的确定性趋势。在大模型的快速迭代推动下,搜索引擎、办公软件、汽车、媒体、AI绘画设计、AI广告营销、智能工作助理等应用率先落地的行业将具备较强商业化机会。 投资建议: 我们认为生成式AI模型不断加速迭代,将快速推动生成式AI技术的商业化推广应用的进程,带动产业三大要素—数据、算力、算法和应用的高速发展。 后续建议密切关注生成式AI产业链上四条投资主线: (1)数据是大模型训练的基础资源,随着大模型项目迭代发展,对训练用数据集需求将不断上升,受益标的为数据提供商龙头Appen(APX.AX); (2)大模型发展带来高算力需求,人工智能芯片市场巨大,受益标的为英伟达(NVDA.O)、AMD(AMD.O); (3)各大厂商布局大模型算法项目,龙头科技企业具有技术优势,受益标的为微软(MSFT.O)、谷歌(GOOG.O)、Meta(META.O)、百度(BIDU.O/9888.HK); (4)生成式AI商业化应用落地领先领域,受益标的为自动驾驶技术公司Mobileye(MBLY.O)、数字媒体Buzzfeed(BZFD.O)、办公软件微软(MSFT.O)。 风险提示: 技术落地商业化不及预期 人工智能在部分领域应用的监管风险 外部环境导致芯片、软件等供应限制
研究报告全文:仅供机构投资者使用行业研究报告奇点将至探他山之石从算力算法数据和应用看AIGC华西海外团队朱芸执业证书编号S1120522040001联系人李佳妮侯钧皓吴嘉悦2023年3月19日请仔细阅读在本报告尾部的重要法律声明目录01核心观点02生成式AIChatGPT引燃市场数字经济未来已至03数据大模型训练的基础资源04算力大模型发展带来高算力需求05算法大模型算法助力AIGC突破06产业应用各领域应用加速落地商业化前景广阔07生成式AI海外受益标的08风险提示1核心观点报告亮点作为海外团队我们期待该篇报告能够尽可能呈现海外市场当前在生成式AIAIGC领域的布局和进展从算力算法数据和应用入手看清趋势寻找差异一是尽可能减少我们对海外认知的信息差更重要的是他山之石可以攻玉海外映射是国内可以持续关注的重点核心要点AIGC未来已来超预期持续出现从2018到2023年四代GPT模型高速进步从简单的问答阅读理解文本总结到在众多测试中获得人类级别表现评级AI迭代进化的速度越来越快可以预期AI达到人类智能水平乃至超越人类智能水平的时代会以超预期的形态和速度出现数据算力算法为AIGC核心要素海内外厂商各占鳌头数据通过算力最后产生了算法或者应用数据作为新兴生产要素数据的拥有者加工者是产业发展的基础算力作为基础设施是AIGC资本开支的主要受益者核心参与者英伟达AMD竞争优势显著AIGC的技术壁垒主要体现在算法上当前通用型AI由GPT领跑而在细分领域上行业内的主要参与者包括谷歌MetaAnthropicHuggingFace和百度等公司随着细分龙头竞相研发创新算法和优化现有技术以及模型迭代下对数据算力的需求高速膨胀AIGC行业技术壁垒将不断提高现有优秀参与者护城河极深AIGC市场潜力巨大应用领域迎来生产力解放根据Tractica的预测数据显示全球AI软件市场规模将在2025年达到1260亿美元2021年到2025年年复合增长率为4102一级市场的火热也反映了AIGC发展的确定性趋势在大模型的快速迭代推动下搜索引擎办公软件汽车媒体AI绘画设计AI广告营销智能工作助理等应用率先落地的行业将具备较强商业化机会核心观点投资建议我们认为生成式AI模型不断加速迭代将快速推动生成式AI技术的商业化推广应用的进程带动产业三大要素数据算力算法和应用的高速发展后续建议密切关注生成式AI产业链上四条投资主线1数据是大模型训练的基础资源随着大模型项目迭代发展对训练用数据集需求将不断上升受益标的为数据提供商龙头AppenAPXAX2大模型发展带来高算力需求人工智能芯片市场巨大受益标的为英伟达NVDAOAMDAMDO3各大厂商布局大模型算法项目龙头科技企业具有技术优势受益标的为微软MSFTO谷歌GOOGOMetaMETAO百度BIDUO9888HK4生成式AI商业化应用落地领先领域受益标的为自动驾驶技术公司MobileyeMBLYO数字媒体BuzzfeedBZFDO办公软件微软MSFTO风险提示技术落地商业化不及预期人工智能在部分领域应用的监管风险外部环境导致芯片软件等供应限制目录01核心观点02生成式AIChatGPT引燃市场数字经济未来已至03数据大模型训练的基础资源04算力大模型发展带来高算力需求05算法大模型算法助力AIGC突破06产业应用各领域应用加速落地商业化前景广阔07生成式AI海外受益标的08风险提示4生成式AI自然语言处理演变十余年迎来变现阶段AIGCAIGeneratedContent即生成式AI多领域应用逐渐成熟AIGC涉及无监督和半监督学习算法截至目前其发展历程主要分为三个阶段统计机器学习方法阶段2010年前首先对数据进行手工标注然后构建其重要特征最后构建概率模型并进行参数优化从而将概率最大的输出作为结果基于深度学习的神经网络模型2010年-2017年深度学习算法被引入本质上是通过大量数据训练神经网络主要表现形式为CNN卷积神经网络RNN循环神经网络等相比统计学习方法省去了复杂且手工的特征构建基于Transformer结构的预训练模型2017年至今利用大量无标注数据进行自监督学习然后再使用少量的标注数据对下游任务进行微调即迁移学习在应用方面按场景分类AIGC已经较为成熟地应用于文本和代码撰写图像识别和生成以GPT为首的AIGC模型也正在探索消费级AI技术的变现方式展望未来AIGC不仅会在现有应用领域持续进步也将逐步拓展到视频和游戏领域AIGC将会在更多的领域得到广泛应用为各个行业和领域的发展和进步提供更多可能性表1AI应用发展进程预测2020前20202022预计2025预计2030预计2050垃圾邮件检测基础文案撰写撰写更长文章对科学论文等进行文章终稿超过人类文章终稿超过专业文本翻译生成草案完善文稿垂直微调平均水平作者水平基础问答文本到产品终更长代码更多语言代码单行自动完成多行代码生产文本到产品草稿稿超过大部分更高准确度深度提高开发者艺术终稿超过大部分专产品设计建筑等产品设计建筑等图像Logo业艺术家设计师模型终稿摄影摄影师水平AI创作平台视频和3D制作的初视频3D游戏完善版本游戏和电影实现个稿性化定制开始尝试基本完成黄金时期资料来源红杉资本华西证券研究所生成式AIGPT模型迭代四大版本进化速度不断提升OpenAI创立于2015年12月发布ChatGPT引燃AI行业热度GPT系列是OpenAI打造的自然语言处理模型采用以Transformer结构为核心的模型其最大特点是使用了大量的未标注的语料进行无监督的预训练然后在各种有监督的任务上进行微调OpenAI于2022年11月先后推出了GPT-35和ChatGPTGPT-35使用了更新的语料进行预训练而ChatGPT是基于GPT-35的对话机器人能够根据用户的输入生成流畅有逻辑的回答以及完成撰写论文报告翻译文字编写代码等文本生成任务并且能根据聊天的上下文进行互动ChatGPT发布后爆火仅用5天时间用户量便破百万推出2个月后用户量破亿成为史上用户增长速度最快的消费级应用程序3月14日OpenAI进一步推出GPT-40相比当前ChatGPT使用的GPT-35增加了输入图像的功能扩写能力增强能处理超过25000个单词的文本更具创造力并且能够处理更细微的指令GPT模型迭代的参数量及训练量均呈指数级增长使得AI从实验技术成长为稳定生产力图1ChatGPT仅发布5天便达到百万用户ChatGPTInstagramSpotifyFacebookFoursquareTwitterAirbnbNetflix0200400600800100012001400用户量达到100万时间天资料来源StatistaTRTWorld华西证券研究所生成式AIAI产品全面开花生产力将达新高度GPT模型稳定进步AI已是成熟生产工具从GPT-1到最新发布的GPT-4模型其应用已经不仅局限于问答阅读理解等文本处理虽然目前GPT-4在现实场景中的能力可能不如人类但在各种专业和学术考试上表现出明显超越人类水平的能力GPT-4在模拟律师考试中分数排在前10相比之下GPT-35的得分则在倒数10附近随着算力算法数据量的演进行业内不断出现高质量的AI产品微软NewBingAI绘画智能驾驶等等体现出AI未来在多个领域的应用潜力ChatGPT版Office百度文心一言两大产品正式推出或将AI的生产力推向新的高度图2GPT40数学能力大幅提升资料来源量子位OpenAI华西证券研究所生成式AIAI进化加速数字经济未来已至AI行业星辰大海数字经济未来已至从2018到2023年四代GPT模型高速进步从简单的问答阅读理解文本总结到在众多测试中获得人类级别表现评级此外近期AI衍生产品的层出不穷显现出背后AI行业的星辰大海2020年马斯克预言五年内人工智能将比人类更聪明当前AI迭代进化的速度越来越快虽然GPT还未通过图灵测试距离真正的智能还有距离但我们认为AI达到人类水平乃至超越人类的时代即将到来表2历代GPT学习目标及表现情况模型发布时间参数量预训练数据量学习目标模型表现无监督语言模型在912任务中获得先进表2018年6GPT-1117亿约5GBPre-training现问答阅读理解文本总月有监督fine-tune结多任务在78任务中超过先进表现2019年2零次学习Zero随着模型参数变多模型的表GPT-215亿40GB月ShortTask现呈现log-linear上升没有到Transfer达瓶颈2020年5语境学习在小样本学习单样本学习GPT-31750亿45TB月小样本学习零样本学习中表现突出在GLUESuperGLUESQuAD2023年3基于规则的奖励模GPT-4待公布等测试中获得人类级别表现月型RBRM拥有图像处理能力资料来源OpenAIMedium中新经纬华西证券研究所生成式AI算力算法数据三位一体数据通过算力最后产生了算法或者应用AIGC是人工智能大数据云计算5G等多个技术领域的整合是一种跨领域的合作发展模式在AIGC行业中算力算法数据是三个核心概念它们共同构成了这个领域的基础设施未来随着技术的进步和应用场景的不断拓展这三个概念将继续发挥重要作用推动整个行业的创新和发展算力ComputingPower算力是指计算设备执行算法处理数据的能力包括CPUGPUFPGAASIC等云计算技术和5G通信技术的发展使得算力的分布和调度更加灵活有助于满足各种场景下对高性能计算的需求算法Algorithm算法是一系列解决问题实现特定功能的有序指令和步骤在AIGC行业中算法是模型的基础用于实现数据分析人工智能模型训练等功能数据Data在AIGC行业中数据是支撑决策和优化的基础是算法发挥作用的前提大数据技术可以对海量数据进行有效处理分析和存储而人工智能技术可以通过对数据进一步学习实现各种智能化应用如图像识别自然语言处理等表3AIGC行业三大核心概念核心概念描述应用及关联技术算力衡量计算设备执行算法处理数据的能力数据中心分布式计算云计算边缘计算高Computing关系到系统的运行效率和任务完成速度性能计算HPCPower机器学习ML深度学习DL自然语言算法解决问题实现特定功能的有序指令和步骤处理NLP计算机视觉CV推荐系统Algorithm是计算机程序的基础用于实现各种功能等对现实世界的描述和反映以数字文字数据挖掘数据分析数据仓库数据可视化数据Data图像等形式表现是支撑决策和优化的基础数据安全隐私保护等资料来源OpenAI华西证券研究所目录01核心观点02生成式AIChatGPT引燃市场数字经济未来已至03数据大模型训练的基础资源04算力大模型发展带来高算力需求05算法大模型算法助力AIGC突破06产业应用各领域应用加速落地商业化前景广阔07生成式AI海外受益标的08风险提示10数据大模型训练的基础资源需求不断扩大数据是训练大模型的基础资源以GPT系列模型为例对比三代模型间使用的数据集训练所需的数据集在质量和数量方面均不断提升随着人工智能模型迭代发展高质量数据集的需求将进一步增长表4GPT系列模型训练使用数据集概要模型数据集概要BooksCorpus7000不同的未发表的书籍包括冒险幻想浪漫等题材数据集GPT-1中包含大量连续文本在Reddit上爬取的外链构建了WebText数据集包含了这4500万个链接的文字子GPT-2集移除了所有的Wikipedia文档因为它是很多下游任务的数据源这是为了避免数据集重叠而影响评估使用CommonCrawl数据集几乎包含整个互联网的数据进行了3步过滤操作增GPT-3加了一些高质量数据集最终采用混合数据集输入数据集大小合计将近5千亿tokens资料来源OpenAI华西证券研究所图3GPT-3模型训练使用数据集概况资料来源OpenAI华西证券研究所数据大模型训练的基础资源需求不断扩大从自然数据源简单收集取得的原料数据并不能直接用于有监督的深度学习算法训练必须经过专业化的采集加工形成相应的工程化训练数据集后才能供深度学习算法等训练使用目前带有监督学习的算法对于训练数据的需求远大于现有的标注效率和投入预算基础数据服务将持续释放其对于算法模型的基础支撑价值表5数据服务商部分公司概况公司主营业务公司优势1拥有的成品训练数据集数量大在产品领域覆盖方面比较完善2已取得专利授权28项计算机软件著作权159项对比同业公司在专利技术AI训练数据的研发设计储备方面具备一定优势海天瑞声生产及销售业务3公司的产品和服务已获得字节跳动阿里巴巴腾讯百度科大讯飞海康威视微软亚马逊三星中国科学院清华大学等国内外客户的认可市场认可度较高1覆盖超过235个语种方言语言覆盖面具有优势数据采集和标注解决方2成立于1996年经营历史较长规模较大拥有人工智能辅助数据注释平澳鹏Appen案台在全球170多个国家与100多万名专业承包合作3客户包括亚马逊微软谷歌等全球大型科技公司产品质量得到认可1拥有语音合成模型和算法可覆盖音乐类训练数据拥有TOBI标注体系通智能语音交互和AI数据过自主研发的TTS评测系统提供高质量的数据服务标贝科技服务2已与微软百度阿里腾讯京东滴滴字节跳动等国内外百余家企业客户建立合作服务项目累计超过1000项资料来源各大公司官方网站海天瑞声2022年半年报告华西证券研究所目录01核心观点02生成式AIChatGPT引燃市场数字经济未来已至03数据大模型训练的基础资源04算力大模型发展带来高算力需求05算法大模型算法助力AIGC突破06产业应用各领域应用加速落地商业化前景广阔07生成式AI海外受益标的08风险提示13算力算力需求不断攀升GPU行业市场巨大AIGC模型硬件以GPGPU为主GPU市场规模有望在2030年超过4000亿美元GPU在并行计算方面具有性能优势在AI领域分化成两条分支一条是传统意义的GPU专门用于图形图像处理用途另一条是GPGPU作为运算协处理器增加了专用指令来满足不同领域的计算需求使用GPGPU在云端进行模型训练算法能够显著缩短海量训练数据的训练时长减少能源消耗从而降低人工智能的应用成本目前全球人工智能相关处理器解决方案仍以GPGPU为主根据VerifiedMarketResearch报告2021年全球GPU芯片市场规模已经达到了3347亿美元并预计到2030年将达到47737亿美元CAGR高达333GPU市场保持着高速增长态势其在人工智能领域中仍然是不可或缺的计算资源之一图4全球GPU市场规模预测6000477375000CAGR33340003000200010003347020212030E全球GPU市场规模亿美元资料来源verifiedmarketresearch华西证券研究所算力英伟达芯片龙头市场地位稳固英伟达高算力芯片龙头AI芯片市场地位领先人工智能平台需要巨大的数据处理能力英伟达的A100显卡适合于支持ChatGPTBard等工具的机器学习模型这款芯片能够同时执行众多简单的计算而这对于训练和使用神经网络模型很重要使得A100显卡成为目前主流AI芯片长期展望AI芯片市场快速增长将带动英伟达营收快速增长根据中商产业研究院数据显示预计全球AI芯片市场规模有望从2020年的约175亿美元提升到2025年的726亿美元年复合增长率329根据花旗集团预估ChatGPT的使用可能会在12个月内为英伟达带来30亿至110亿美元的销售额图5A100等显卡大模型训练速度图6A100等显卡机器学习性能资料来源NVIDIA华西证券研究所资料来源NVIDIA华西证券研究所算力AMD封装理念Chiplet领先推出高性能APUAMD高算力芯片代表企业即将推出世界首款集成数据中心CPU和GPU的APU产品在2023年的CES上AMD预览了AI推理加速器AMDAlveoV70主打高能效峰值AI算力可达到400TOPSTDP仅75WAMD称这是最强AI算力的75WTDP级产品AMD还预览了其首款集成数据中心CPU和GPU的APU产品AMDInstinctMI300该款产品采用了Chiplet封装理念Chiplet策略是一项重要的硬件创新摆脱了单芯片微缩的限制同时能够优化设备的性能功耗和性价比MI300加速器专为领先的高性能计算HPC和AI性能而设计借助3D封装技术将CPU和加速计算单元集成在一起总共有1460亿个晶体管图7AMD在CES上介绍V70图8AMD在CES上介绍MI300资料来源AMDCES华西证券研究所资料来源AMDCES华西证券研究所算力英伟达AMD垄断全球国产芯片奋起直追全球GPU市场中英伟达和AMD占据96份额国内GPU主要研发企业为海光信息寒武纪等根据Wccftech2022Q3独立GPU市场中英伟达和AMD分别占据888市场份额根据海光信息招股书公布技术指标数据当前国内高端GPU相比国际巨头在显存频率带宽等参数上还有一定差距但在典型应用场景下深算一号已基本能够达到国际上同类型高端产品的水平在国际市场上英伟达和AMD在高性能计算和人工智能领域具有丰富的产品线和完善的生态系统叠加长期积累的技术优势和市场地位预计仍将长期维持AI算力芯片领域的龙头地位表6深算一号与NVIDIAAMD高端产品技术规格对比核心概念海光NVIDIAAMD品牌深算一号Ampere100MI100生产工艺7nmFinFET7nmFinFET7nmFinFET2560CUDAprocessors核心数量409664Cus120CUs640TensorprocessorsUpto15GHzFP64Upto15GHzFP64内核频率Upto153GHzUpto17GHzFP32Upto17GHzFP32显存容量32GBHBM280GBHBM2e32GBHBM2显存位宽4096bit5120bit4096bit显存频率20GHz32GHz24GHz显存带宽1024GBs2039GBs1228GBsTDP350W400W300WCPUtoGPU互联PCIeGen4x16PCIeGen4x16PCIeGen4x16xGMIx2NVLinkInfinityFabricx3GPUtoCPU互联Upto184GBsUpto600GBsUpto276GBs资料来源海光信息招股书华西证券研究所算力国产芯片发展迅速填补AI市场空缺高端芯片进口受限国产芯片需求加速扩大在NVIDIAAMD高端产品被限制向中国出售的情况下国产大模型算力需求将快速推动国产芯片市场增长当前国产GPGPU芯片的研发和生产已经取得了一定的进展海光炬芯寒武纪等企业均拥有具备自主知识产权的GPU芯片为国内高性能计算和人工智能领域的发展提供了重要支持根据前瞻产业研究院国产人工智能芯片自2020年来呈爆发式增长2023年市场空间预计将超过1300亿元2020-2023年CAGR为9586总体而言在国际关系紧张芯片进口受限的前提下国产人工智能芯片市场未来的发展前景广阔随着国内厂商加大研发投入和技术创新力度进一步提升产品性能看好其在国内乃至国际市场中获得更多的份额和竞争优势图9中国人工智能芯片行业规模亿元14001331221601426312001401201000843719626100800898680600569842990577860400401771820011287205945002018201920202021E2022E2023E资料来源前瞻产业研究院华西证券研究所目录01投资要点02生成式AIChatGPT引燃市场数字经济未来已至03数据大模型训练的基础资源04算力大模型发展带来高算力需求05算法大模型算法助力AIGC突破06产业应用各领域应用加速落地商业化前景广阔07生成式AI海外受益标的08风险提示19
|
|