ChatGPT：生成式AI引爆技术奇点
　　AIGC全称为AI-Generated Content，指基于生成对抗网络GAN、大型预训练模型等人工智能技术，通过已有数据寻找规律，并通过适当的泛化能力生成相关内容的技术。与之相类似的概念还包括Synthetic media，合成式媒体，主要指基于AI生成的文字、图像、音频等
　　2020年，1750亿参数的GPT-3在问答、摘要、翻译、续写等语言类任务上均展现出了优秀的通用能力，证明了“大力出奇迹”在语言类模型上的可行性。自此之后，海量数据、更多参数、多元的数据采集渠道等成为国内清华大学、智源研究院、达摩院、华为、北京大学、百度等参与者的关注点。
　　2022年12月，ChatGPT 3.5令人惊艳的使用体验引爆社会热潮，搜索热度和用户增长都出现了极为明显的提升。
　　目前，大型文本预训练模型作为底层工具，商业变现能力逐渐清晰。以GPT-3为例，其文本生成能力已被直接应用于Writesonic、Conversion.ai、Snazzy AI、Copysmith、Copy.ai、Headlime等文本写作/编辑工具中。同时也被作为部分文本内容的提供方，服务于AI dungeon等文本具有重要意义的延展应用领域。
　　风险提示
　　AI应用落地情况不及预期；
　　科技竞争限制部分芯片生产；

研究报告全文：AI重构生产力下的电子行业投资机遇分析长江证券研究所电子研究小组2023-03-27证券研究报告评级看好维持分析师及联系人首席分析师杨洋分析师钟智铧SAC执业证书编号S0490517070012SAC执业证书编号S0490522060001电邮yangyang4cjsccomcn电邮zhongzhcjsccomcn目录01ChatGPT生成式AI引爆技术奇点02AIChiplet信息革命的基石03AI还可以买什么0501ChatGPT生成式AI引爆技术奇点01ChatGPT生成式AI引爆技术奇点AIGC全称为AI-GeneratedContent指基于生成对抗网络GAN大型预训练模型等人工智能技术通过已有数据寻找规律并通过适当的泛化能力生成相关内容的技术与之相类似的概念还包括Syntheticmedia合成式媒体主要指基于AI生成的文字图像音频等2020年1750亿参数的GPT-3在问答摘要翻译续写等语言类任务上均展现出了优秀的通用能力证明了大力出奇迹在语言类模型上的可行性自此之后海量数据更多参数多元的数据采集渠道等成为国内清华大学智源研究院达摩院华为北京大学百度等参与者的关注点2022年12月ChatGPT35令人惊艳的使用体验引爆社会热潮搜索热度和用户增长都出现了极为明显的提升目前大型文本预训练模型作为底层工具商业变现能力逐渐清晰以GPT-3为例其文本生成能力已被直接应用于WritesonicConversionaiSnazzyAICopysmithCopyaiHeadlime等文本写作编辑工具中同时也被作为部分文本内容的提供方服务于AIdungeon等文本具有重要意义的延展应用领域ChatGPT搜索热度居高不下各应用1亿用户达成时长月1208090807010070606080505040604030304020201020010ChatGPTTikTokInstagramPinterestSpotifyTelegramUberGoogle00Translate2022121202311202321202331ChatGPTTikTokInstagramPinterest搜索热度7日均线SpotifyTelegramUberGoogleTranslate资料来源GoogleTrends甲子光年长江证券研究所01ChatGPT生成式AI引爆技术奇点过去传统的人工智能偏向于分析能力即通过分析一组数据发现其中的规律和模式并用于其他多种用途比如应用最为广泛的个性化推荐算法而现在人工智能正在生成新的东西而不是仅仅局限于分析已经存在的东西实现了人工智能从感知理解世界到生成创造世界的跃迁因此从这个意义上来看广义的AIGC可以看作是像人类一样具备生成创造能力的Al技术即生成式AI它可以基于训练数据和生成算法模型自主生成创造新的文本图像音乐视频3D交互内容如虚拟化身虚拟物品虚拟环境等各种形式的内容和数据以及包括开启科学新发现创造新的价值和意义等因此AIGC已经加速成为了AI领域的新疆域推动人工智能迎来下一个时代内容创作模式的四个发展阶段生成式AI技术的成熟应用进程时间表2020年之前20202022202320252030诈骗垃圾信息垂直领域的文案识别更长的文本终稿水平高于终稿水平高于文本领域基础文案撰写初稿撰写实现可精调翻译二稿人类平均值专业写手基础问答回应论文等根据文本生成终更长的代码支持更多语种根据文本生成初版版应用程序比代码领域单行代码补足多行代码生成更精确的表达领域更垂直应用程序全职开发者水平更高终稿水平高于艺术模仿产品设终稿产品设计图像领域专职艺术家设图标计建筑等建筑等摄影计师等AI版Roblox可依视频视频和3D文件3D视频模型的二稿个人梦想定制的3D游的基础版初稿初步尝试游戏与电影戏领域大模型可用情况初步尝试基本实现未来潜力资料来源AIGC发展趋势报告2023腾讯研究院长江证券研究所01人工智能带来的生产力变革风声已近追求生产力的提升和生产关系的优化是人类社会发展的根源动力和核心目标而生产力升级的最本质目标就是效率提升和成本降低从人类社会四次工业科技革命来看第一次工业革命的核心成果是以蒸汽机为代表的机械替代人力第二次工业革命是以电力燃油为代表的能源突破第三次是以计算机及信息技术为代表的信息结构性变革和自动化生产其共同的特征就是生产规模的不断扩大生产方式上科技应用不断地向工业和社会的更高层结构渗透底层的低技术含量的规模庞大的生产模块不断被机器替代人力生产持续向高层的复杂的尖端的生产方式和技术模块演进是一个不变的趋势历次工业革命中国人工智能场景发展程度第一次工业革命第二次工业革命信息革命智能革命进行中机械时代电气时代信息时代智能时代核心成果机械织布机蒸汽机发电机内燃机计算机互联网人工智能19世纪70年代传送带20世纪40-90年代计算机1784年第一台机械织布机电灯发电机内燃机航天技术原子能核高效能运算智能手机标志事件无线电报能互联网材料技术网络升级5G物联网20世纪初流水线飞机移动终端移动互联网人工智能1785年蒸汽机汽车等第一次工业革命的新增工电力驱动多种工业部分发手工业发展瓶颈业部门如钢铁煤炭机数据在社会中的全面渗透展械加工等的发展多种科学的理论和应用发以法拉第的电磁学为代表发展基础技术层面展连携提速科学技术转在材料等多种基础工业突牛顿力学等自然科学积累的自然科学开始引领工业化为直接生产力的速度加破下算力的指数增长进步快信息传递的广覆盖高精度低延迟智能拟人化计算规模化机械制造人力解放进程能源升级机械应用基础信息处理与传递演进科意义数据渗透全面化智能应开始夯实技应用指数增长用覆盖社会全场景科技革命形态转变出现工业革命主要围绕生产工业革命向军事蔓延较强民用倾向尖端科技向民用下沉的速智能革命浪卷人类社会全特征蒸汽机机械使得制造业度开始加快尖端军用流水线使得单一工厂生产方面中工厂开始替代原始私人科技研究方向外开始出现向产业链分工生产转变作坊专业的科技民用化的研究方向资料来源IDC长江证券研究所01人工智能三要素逐步成熟推动行业进入爆发期AIGC的本质是内容与场景其发展需要AI与后端基建算法算据和算力三要素耦合共振AIGC的三大发展阶段是模型赋智阶段从现实生成数字AIGC利用AI技术构建模拟现实世界的数字孪生模型认知交互阶段从数字生成数字A能够学习并创作更丰富的内容空间赋能阶段从数字生成现实AIGC基于物联网多模态技术获取多维信息实现更加智能的人与机器互动市场规模2021年全球人工智能市场收支规模含硬件软件及服务达850亿美元IDC预测2022年该市场规模将同比增长约20至1017亿美元并将于2025年突破2000亿美元大关CAGR达245显示出强劲的产业化增长势头2021年中国人工智能市场收支规模达到82亿美元占全球市场规模的96在全球人工智能产业化地区中仅次于美国及欧盟位居全球第三IDC预测2022年该市场规模将同比增长约24至102亿美元并将于2025年突破160亿美元人工智能三要素逐步成熟推动行业进入爆发期全球及我国人工智能市场收支规模及预测亿美元数据层面标注大数据语料库2500投喂计算任务2042高精度训练集训练2000算力层面算法层面15001017核心技术突破850数据硬件算力-本地化1000数据巨量化多模态认知计算500821021610AIGC实时算力-云计算认知交互力20212022E2025E感知交互算法算力全球中国跨模态融合内容创造力数字孪生虚拟现实全息立体智能交互-边缘计算应用场景资料来源甲子光年IDCGlobalIDCChina上海数字大脑研究院长江证券研究所01大模型参数量快速提升算力需求大幅增加大模型主要由各大龙头企业推动在国内科技公司中阿里巴巴达摩院在2020年推出了M6大模型百度在2021年推出了文心大模型腾讯在2022年推出了混元AI大模型大模型最核心的除了算法外主要是参数的设置其中参数量Params形容模型的大小程度类似于算法中的空间复杂度往往参数量越大复杂程度越高的神经网络模型对算力的需求程度更高复杂的神经网络模型的算法参数量约千亿级别甚至万亿级别与已知应用级别的呈现指数级别的差异这些模型不仅在参数量上达到了千亿级别而且数据集规模也高达TB级别想要完成这些大模型的训练就至少需要投入超过1000PetaFlops-day的计算资源主要大模型建设情况各大主要模型的参数量巨大厂商预训练模型应用参数量亿BERT语言理解与生成4810LaMDA对话系统-谷歌PaLM语言理解与生成推理代码生成5400Imagen语言理解与图像生成110Parti语言理解与图像生产200Florence视觉识别64微软Turing-NLG语言理解生成170OPT-1758语言模型1750FacebookM2M-100100种语言互译150Gato多面手的智能体12DeepMindGopher语言理解与生成2800AlphaCode代码生成414GPT3语言理解与生成推理等1750CLIPDALL-E图像生成跨模态检索120OpenAICodex代码生成120ChatGPT语言理解与生成推理等-英伟达Megatron-TuringNLG语言理解与生成推理等5300StabilityAIStableDiffusion语言理解与图像生产-资料来源StarLabAIGC发展趋势报告2023腾讯研究院长江证券研究所01大模型参数量快速提升算力需求大幅增加大模型主要由各大龙头企业推动在国内科技公司中阿里巴巴达摩院在2020年推出了M6大模型百度在2021年推出了文心大模型腾讯在2022年推出了混元AI大模型大模型最核心的除了算法外主要是参数的设置其中参数量Params形容模型的大小程度类似于算法中的空间复杂度往往参数量越大复杂程度越高的神经网络模型对算力的需求程度更高复杂的神经网络模型的算法参数量约千亿级别甚至万亿级别与已知应用级别的呈现指数级别的差异这些模型不仅在参数量上达到了千亿级别而且数据集规模也高达TB级别想要完成这些大模型的训练就至少需要投入超过1000PetaFlops-day的计算资源大模型的基础是庞大的算力基建2018年后大模型训练算力需求显著提升资料来源甲子光年英伟达长江证券研究所01大模型参数量快速提升算力需求大幅增加1算力总需求量参数量词条长度单个词语计算次数单精度训练词数2GPU总需求量算力总需求量单张加速卡算力计算用时按照175B的参数规模测算若训练时长为1个月则英伟达A100GPU需要张数超6000张A100加速卡成本156亿美元若参数量提升至481B则加速卡成本上升至428亿美元若481B模型的计算时间限制为一周则仅加速卡成本将达到1835亿美元又好参数量大又快迭代时间短的需求将大幅推升龙头厂商的硬件军备竞赛同时由于2210的新制裁方案A100对国内是禁售的需要申请新的出口许可因此保质保量的国内供应商是国内龙头厂商正在迫切寻找的主要大模型算力加速卡需求情况参数量训练词数单个词语计算计算用时仅考虑A100GPU成本A100成本亿美厂商预训练模型应用总计算量万亿亿次算力TFLOPsGPU需要数量颗亿亿次数h亿美元元BERT语言理解与生成481030006865819572017130171428LaMDA对话系统---------谷歌PaLM语言理解与生成推理代码生成540030006972019572019231192481Imagen语言理解与图像生成11030006198195720392004010Parti语言理解与图像生产20030006360195720712007018Florence视觉识别6430006115219572023000001微软Turing-NLG语言理解生成17030006306195720605006015OPT-1758语言模型17503000631501957206232062156FacebookM2M-100100种语言互译15030006270195720534005013Gato多面手的智能体123000621619572043000001DeepMindGopher语言理解与生成28003000650401957209972100249AlphaCode代码生成4143000674521957201474015037GPT3语言理解与生成推理等17503000631501957206232062156CLIPDALL-E图像生成跨模态检索12030006216195720427004011OpenAICodex代码生成12030006216195720427004011ChatGPT语言理解与生成推理等---------英伟达Megatron-TuringNLG语言理解与生成推理等530030006954019572018875189472StabilityAIStableDiffusion语言理解与图像生产---------资料来源AIGC发展趋势报告2023腾讯研究院长江证券研究所单个词语计算次数即单精度假设为均为6次算力假设为英伟达TeslaA100GPU算力195TFLOPSA100成本为包含8张TeslaA100及配套芯片即整机价格01大模型参数量快速提升算力需求大幅增加人工智能技术将全面赋能各行各业预计到2025年人工智能涉及的场景规模将达到2081亿美金并在无人驾驶智慧金融智慧医疗智慧零售文娱等领域大显身手人工智能技术对于算力的核心拉动点在于未来各应用场景内单设备芯片算力的增长和人工智能技术的行业渗透率的进一步提升带动对云计算中心边缘设备和终端NPU的巨大需求整体预计在2030年人工智能相关领域对于算力的需求将达到16000EFLOPS相当于1600亿颗高通骁龙855内置的人工智能芯片所能提供的算力大模型的基础是庞大的算力基建仅人工智能相关应用就将带来海量算力需求1400127141200100092288006407600427400268155295511132003013173967547756567980302019202020212022E2023E2024E2025E2026E中国通用算力规模EFLOPS中国智能算力规模EFLOPS资料来源IDC泛在算力智能社会的基石华为长江证券研究所02AIChiplet信息革命的基石02应用-软件-硬件循环向上AI芯片发展多元变化AI芯片相关技术关键技术对算力的具体要求资料来源人工智能芯片技术白皮书2018清华大学北京未来芯片技术高精尖创新中心泛在算力智能社会的基石华为长江证券研究所02应用-软件-硬件循环向上AI芯片发展多元变化中国AI芯片市场规模占比IDCAI芯片的目标领域961004GPUNPUASICFPGA890主要AI相关芯片的市场规模及增速百万美元Gartner202020212022E2023E2024E2025E2026ECAGR2021-2026E应用处理器分立或嵌入式1777326810330373822943134459564864013DSP614326910215221672FPGA11524144291214391870239858GPU26094786586972318897105591216621MCUSoC194910621228647275473微处理器1128210735105836766994551136040嵌入式微处理器408615629147568388159其他ASIC3376841288253546606895966370资料来源Gartner人工智能芯片技术白皮书2018清华大学北京未来芯片技术高精尖创新中心IDC长江证券研究所注Gartner统计AI芯片口径包含服务器以外如AIoT手机笔电等应用IDC口径则以服务器AI相关芯片为主02应用-软件-硬件循环向上AI芯片发展多元变化以人工智能芯片为例目前主要有两种发展路径一种是延续传统计算架构加速硬件计算能力主要以CPUGPUFPGAASIC为代表当前阶段GPU配合CPU是AI芯片的主流而后随着视觉语音深度学习的算法在FPGA以及ASIC芯片上的不断优化此两者也将逐步占有更多的市场份额从而与GPU达成长期共存的局面深度神经网络算法是大型多层的网络模型典型的有循环神经网络和卷积神经网络模型单次推断通常需要数十亿甚至上百亿次的运算对芯片的计算力提出了更高要求同时对器件的体积功耗还有一定的约束四类逻辑芯片特性比较主要AI芯片的功能特性比较GPUFPGAASIC定制化程度通用型半定制化定制化灵活性好好不好成本高较高低VerilogVHDL等硬件描述语言编程语言架构CUDAOpenCL等OpenCLHLS功耗大较大小峰值计算能力强产品成平均性能较高功耗较低灵活性平均性能很强功耗很低体主要优点熟强积小效率不高不可编辑功量产单价高峰值计算能力较强前期投入成本高不可编辑主要缺点性能功能效率灵活性延迟耗高编程语言难度大研发时间长技术风险大云端训练云端推断终端推主要应用场景云端训练云端推断云端推理终端推断CPUGPUFPGAASIC断英伟达Tesla高通谷歌TPU寒武纪Cambricon代表企业芯片XilinxVersal英特尔Arria等Adreno等等资料来源与非网赛迪智库长江证券研究所02GPU并行运算带来对AI应用的高度适配在架构上GPU由数以千计的更小更高效的核心类似于CPU中的ALU组成这些核心专为同时处理多任务而设计现在的CPU一般是多核multi-core结构而GPU一般是众核many-core结构为充分利用GPU的计算能力NVIDIA在2006年推出了CUDAComputerUnifieDeviceArchitecture统一计算设备架构这一编程架构该架构使GPU能够解决复杂的计算问题它包含了CUDA指令集架构ISA以及GPU内部的并行计算引擎英伟达在GPU里面增加了TensorCore为AI服务它的并行力度就从基本的数据点进化到以小矩阵快来进行计算所以TensorCore最基本的并行单元是一个44的矩阵块能够在一个时钟周期里面算出一个44矩阵和另一个44矩阵相乘的结果原来用数据点来并行的话它需要16次这样的计算才能算出一个44的矩阵相比之下TensorCore的算力比原来的GPU要高等价的功耗等比原来GPU的要低这就是TensorCore用来做矩阵一个显著的进化CPU和GPU架构对比CUDACore做卷积以点为基本粒度进行资料来源AI芯片设计原理与实践陈巍2022汇芯投资长江证券研究所02GPU并行运算带来对AI应用的高度适配Ampere架构H100可大幅加速大模型训练时间英伟达AmpereGA100是迄今为止设计的最大的7nmGPUGPU完全从5天加速到19小时针对HPC市场而设计具有科学研究GPT-31750亿参数人工智能深度神经网络和AI推理等应用程序NVIDIAA100基于7nmAmpereGA100GPU具有6912CUDA内核和432TensorCore540亿个晶体管数108个流式多处理器采用第三代NVLINKGPU和服务器双向带宽为48TBsGPU间的互连速度为600GBs另外从7天加速到20小时TeslaA100在5120条内存总线上的MoE3950亿参数HBM2内存可达40GB2022年NVIDIA推出了具有采用全新Hopper架构的800亿个晶体管的H100这是首款支持Pcle50标准的GPU单个H100就支持40Tbs的IO带宽资料来源面包板英伟达长江证券研究所02英伟达三重壁垒构造AI时代软硬件一体化龙头第一层壁垒硬件层GPU奠定图形渲染和AI算力基础AI的核心驱动与英伟达的三重壁垒英伟达硬件层的三芯战略已逐步成型GPU解决AI大规模CIS激光雷达5GGPU视频流社交媒体多芯配合算力迭代突破并行运算痛点DPU解决AI训练推理中设备网络通信与数据持续高增算力需求远超现存硬件摩尔定律限制DPUCPU负荷问题CPU填上三芯战略最后一块拼图GPU强三芯战略CPU耦合设计构造完整AI解决方案数据多芯互联瓶颈硬件层打开算力上限NVlinkNVlinkNVSwitchConnectX突破芯片直连和设备网络连互联网络接限制GPUDirectStorage技术实现高性能存储和数据AI发展关键瓶颈ConnectX算力功耗体积与成本软硬件强耦合充分发挥硬件优势访问以及如何发挥CUDA芯片应用软件第二层壁垒软件层CUDA释放GPU潜力引航AI发展DOCA算力软件层下沉应用层DOCAOmniverse等软件层进一步填充生态增强AI行AI提供更完整解决方案Omniverse业对英伟达的粘性CUDA从底层代码出发发挥GPU并行运行业应用软件AIEnterprise算优势奠定近十年人工智能发展基础DOCA为从消费到数据基建BlueFieldDPU量身定做软件开发平台复刻GPUCUDA再到AI完整领域游戏的强耦合成功路径Omniverse初试工业共享虚拟空间生产力数字孪生从硬件软件云上社区在强劲软硬件基础上打造系统级算法应用层数据中心AI生态圈NVIDIAAIEnterprise加速AI模型开发未来或算法经历超半世纪发展自动驾驶元宇宙有望助力实现以AI开发AI主流模型逐步成熟社会效益专业视觉第三层壁垒应用层游戏显卡数据中心自动驾驶元宇宙先后接力十年成长曲线浪潮叠加资料来源长江证券研究所02景嘉微构造图形GPU国产化基础景嘉微在图形处理芯片领域经过多年的技术钻研成功自主研发了一系列具有自主知识产权的GPU芯片是公司图形显控模块产品的核心部件并以此在行业内形成了核心技术优势公司以JM5400研发成功为起点不断研发更为先进且适用更为广泛的一系列GPU芯片随着公司JM7200和JM9系列图形处理芯片的成功研发公司联合国内主要CPU整机厂商操作系统行业应用厂商等开展适配与调试工作共同构建国产化计算机应用生态在通用领域成功实现广泛应用2022年5月公司JM9系列第二款图形处理芯片成功研发可以满足地理信息系统媒体处理CAD辅助设计游戏虚拟化等高性能显示需求和人工智能计算需求可广泛应用于用于台式机笔记本一体机服务器工控机自助终端等设备景嘉微JM9图形显示卡功能参数景嘉微Wind一致预期情况参数指标描述关键指标2019A2020A2021A2022E2023E2024E视频解码支持H265H264VP9AVS2AVSJPEGMPEG4等主流格式营业收入百万53079653771093201147801776922490382D图形生成功能支持DirectFB177支持OpenVG11矢量图形加速增长率336323176721499548140153D图形生成功能支持OpenGL40OpenCL30Vulkan11OpenGLES32归母净利润百万175972076329274288884233457748像素填充率8GPixelss32位单精度浮点性能512GFlops增长率236717994099-13246543641内核性能内核时钟频率1GHz支持动态调频EPS摊薄058069097063093127总线接口PCIE40X8显存带宽256GBs基准股本百万股301273012530124455134551345513显存容量8GB支持2路独立的图形显示控制器支持2路HDMI201路eDP12ROE摊薄746820102293612351478显示接口1路VGA输出ROA7037379207979621107支持X86ARMMIPS处理器和Linux中标麒麟银河麒麟统信支持平台软件翼辉天脉等操作系统PE10030101431566217811121548910功耗15WPEG424564382-13520261245资料来源景嘉微公司公告Wind长江证券研究所注Wind一致预期数据更新至2023年3月25日