AI的iPhone时刻到来,微软、英伟达、华为等巨头密集推新。2022年11月底,OpenAI发布ChatGPT,迅速引发全球关注,仅两个月时间,全球独立访问用户过亿。短时间内,全球巨头纷纷推出各自的生成式AI产品:3月2日OpenAI开放API接口,16日百度发布文心一言,17日微软推出Copilot,21日英伟达在其2023 GTC推出一系列最新AI硬件和软件,3月24日谷歌推出Bard、OpenAI实现插件支持,25日华为推出“盘古”大模型。ChatGPT兴起被看做AI的“iPhone时刻”,类似于“互联网+”历程,生成式AI有望重塑各行业的传统业态,在此创新浪潮之中,推动科技产业升级的“比尔安迪”定律不再停留于OS层面,AI应用和硬件算力正加速实现螺旋升级。
算力芯片及AI服务器需求激增,AI新基建有望催化电子反攻行情。类似2018-2019年的电子行情,由于市场对智能手机量价成长空间一致性悲观,电子指数在18年下跌超42%,紧接着在19年5G基础设施建设及AIoT终端创新的推动下,电子一年内反弹超73%。如今,对于仍处在历史估值低位的电子板块而言,AI应用的兴起一方面有望带动数据中心、服务器等相关新基建的放量,一方面有望革命消费电子终端的人机交互体验,进而加速各类终端电子化、智能化的进程,行业“短期景气复苏”与“中期AI创新成长”之间的逻辑共振正得以强化,“AI的iPhone时刻”为电子估值修复提供了有力的市场情绪支撑,建议重点关注算力芯片及AI服务器相关产业链。 大模型AI对算力、存储需求大,推动芯片设计、制造升级。在大模型训练对数据总量的带动下,需要性能更高、功耗成本更低的算力芯片和大容量存储芯片。全球AI芯片市场预计由18年的51亿美元增至25年的726亿美元,CAGR达46.14%。当前主流的AI算力芯片主要包括GPU、FPGA、ASIC、NPU等,GPU在训练负载中具有绝对优势,多场景趋势下AI芯片将更加细分和多元,以寒武纪、海光信息等为代表的本土AI芯片企业正迎来国产替代机遇期。与此同时,由于受美国对我国半导体制裁影响,Chiplet异构集成等先进封装有望成为本土IC企业应对制程和算力瓶颈的解决方案;存储芯片方面,3DNAND堆叠层数提升和DRAM微缩化进程也有望提速。产业链推荐先进封装长电科技、通富微电,Chiplet IP公司芯原股份,存储芯片兆易创新, AIGC或开启人机交互新模式、激发AIoT升级,端侧芯片有望受益。2011年Apple推出Siri,使语音助手成为当时人工智能竞赛热门赛道,但是由于智能化较低,全球语音助理、智能音箱及其他语音交互AIoT行业发展经过初期高速成长期后陷入沉寂。AIGC在大语言模型和高算力支持下,自然语言理解能力迅速进化,有望拓展语音交互的能力空间,从而激发AIoT行业再次升级。与此同时,智慧视觉、工业自动化、智能交互平板、智能可穿戴、VRAR等同样受益于ChatGPT等AI大语言模型所推进的场景数字化趋势,相关产业链推荐晶晨股份、裕太微、视源股份、海康威视、康冠科技、创维数字等。 随AI应用多元化带来数据量指数型增长,AI服务器应运而生。AI服务器是采用异构形式的服务器,如CPU+GPU、CPU+TPU、CPU+其他的加速卡等。而普通的服务器是以CPU为算力的提供者,采用的是串行架构。在大数据、云计算、人工智能等应用渗透,数据呈现几何倍数的增长,CPU的核心数已经接近极限,但数据还在持续增加,因此必须提升服务器的数据处理能力,AI服务器应运而生。根据IDC数据,2022年全球AI相关支出1193亿美元同比增长28.0%;预计2026年全球AI服务器市场规模将达到355亿美元,对应22-26年CAGR为15.1%。 传输效率及运行功率提升,AI服务器硬件全方位升级。服务器平台升级要求PCB层数增加、介电损耗降低,对应ASP显著提升,Prismark预计24年全球服务器PCB将达67.65亿美元,5年CAGR为6.4%,增速远高于其他下游;而服务器数据传输速率的提升、端口数量的增加,亦将拉动以太网物理层芯片用量的增长;同时,为CPU,GPU供电所使用的多相电源需求量大幅增加。在此基础上,据英飞凌数据,AI服务器系统功率将提升至原来的3倍,因此需要对服务器整机结构、散热方案等进行升级才能满足AI服务器长期稳定运行的目的,相应的,功率半导体用量显著提升且器件品类向超结MOS、GaN器件过渡。AI服务器产业链推荐:1)代工:工业富联、环旭电子、闻泰科技;2)PCB:沪电股份、深南电路、东山精密、鹏鼎控股;3)电源及安全芯片:国芯科技、杰华特、东微半导、新洁能、扬杰科技。 风险提示:AI应用推广低于预期,AI投资规模低于预期,AI服务器渗透率提升低于预期,AI监管政策收紧等。 研究报告全文:证券研究报告2023年03月27日算力芯片及AI服务器专题超配AI的iPhone时刻到来电子的AI机遇兴起核心观点行业研究行业专题AI的iPhone时刻到来微软英伟达华为等巨头密集推新2022年11电子月底OpenAI发布ChatGPT迅速引发全球关注仅两个月时间全球独立超配维持评级访问用户过亿短时间内全球巨头纷纷推出各自的生成式AI产品3月2证券分析师胡剑证券分析师胡慧日OpenAI开放API接口16日百度发布文心一言17日微软推出Copilot021-60893306021-6087132121日英伟达在其2023GTC推出一系列最新AI硬件和软件3月24日谷歌hujian1guosencomcnhuhui2guosencomcnS0980521080001S0980521080002推出BardOpenAI实现插件支持25日华为推出盘古大模型ChatGPT证券分析师周靖翔证券分析师叶子兴起被看做AI的iPhone时刻类似于互联网历程生成式AI有021-603754020755-81982153望重塑各行业的传统业态在此创新浪潮之中推动科技产业升级的比尔zhoujingxiangguosencomcnyezi3guosencomcnS0980522100001S0980522100003安迪定律不再停留于OS层面AI应用和硬件算力正加速实现螺旋升级证券分析师李梓澎联系人詹浏洋算力芯片及AI服务器需求激增AI新基建有望催化电子反攻行情类似0755-81981181010-88005307lizipengguosencomcnzhanliuyangguosencomcn2018-2019年的电子行情由于市场对智能手机量价成长空间一致性悲观S0980522090001电子指数在18年下跌超42紧接着在19年5G基础设施建设及AIoT终端市场走势创新的推动下电子一年内反弹超73如今对于仍处在历史估值低位的电子板块而言AI应用的兴起一方面有望带动数据中心服务器等相关新基建的放量一方面有望革命消费电子终端的人机交互体验进而加速各类终端电子化智能化的进程行业短期景气复苏与中期AI创新成长之间的逻辑共振正得以强化AI的iPhone时刻为电子估值修复提供了有力的市场情绪支撑建议重点关注算力芯片及AI服务器相关产业链大模型AI对算力存储需求大推动芯片设计制造升级在大模型训练对数据总量的带动下需要性能更高功耗成本更低的算力芯片和大容量存储芯片全球AI芯片市场预计由18年的51亿美元增至25年的726亿美元资料来源Wind国信证券经济研究所整理CAGR达4614当前主流的AI算力芯片主要包括GPUFPGAASICNPU相关研究报告等GPU在训练负载中具有绝对优势多场景趋势下AI芯片将更加细分和多电子行业周报-AI引爆TMT春季躁动行情景气回升趋势中电元以寒武纪海光信息等为代表的本土AI芯片企业正迎来国产替代机遇子关注度走强2023-03-20期与此同时由于受美国对我国半导体制裁影响Chiplet异构集成等先LCD行业3月报-3月TV面板价格全面回升有望重返现金成本水平2023-03-15进封装有望成为本土IC企业应对制程和算力瓶颈的解决方案存储芯片方电子行业周报-半导体本土产能扩张预期强化关注设备及材料2023-03-14面3DNAND堆叠层数提升和DRAM微缩化进程也有望提速产业链推荐先进电子行业周报-优势产业龙头估值修复面板及封测景气回暖封装长电科技通富微电ChipletIP公司芯原股份存储芯片兆易创新2023-03-06电子行业周报-3月电视面板全面涨价IC封测景气度率先筑AIGC或开启人机交互新模式激发AIoT升级端侧芯片有望受益2011年底2023-02-27Apple推出Siri使语音助手成为当时人工智能竞赛热门赛道但是由于智能化较低全球语音助理智能音箱及其他语音交互AIoT行业发展经过初期高速成长期后陷入沉寂AIGC在大语言模型和高算力支持下自然语言理解能力迅速进化有望拓展语音交互的能力空间从而激发AIoT行业再次升级与此同时智慧视觉工业自动化智能交互平板智能可穿戴VRAR等同样受益于ChatGPT等AI大语言模型所推进的场景数字化趋势相关产业链推荐晶晨股份裕太微视源股份海康威视康冠科技创维数字等随AI应用多元化带来数据量指数型增长AI服务器应运而生AI服务器是采用异构形式的服务器如CPUGPUCPUTPUCPU其他的加速卡等而普通的服务器是以CPU为算力的提供者采用的是串行架构在大数据云计算人工智能等应用渗透数据呈现几何倍数的增长CPU的核心数已经接近极限但数据还在持续增加因此必须提升服务器的数据处理能力AI服务器应运而生根据IDC数据2022年全球AI相关支出1193亿美元请务必阅读正文之后的免责声明及其项下所有内容证券研究报告同比增长280预计2026年全球AI服务器市场规模将达到355亿美元对应22-26年CAGR为151传输效率及运行功率提升AI服务器硬件全方位升级服务器平台升级要求PCB层数增加介电损耗降低对应ASP显著提升Prismark预计24年全球服务器PCB将达6765亿美元5年CAGR为64增速远高于其他下游而服务器数据传输速率的提升端口数量的增加亦将拉动以太网物理层芯片用量的增长同时为CPUGPU供电所使用的多相电源需求量大幅增加在此基础上据英飞凌数据AI服务器系统功率将提升至原来的3倍因此需要对服务器整机结构散热方案等进行升级才能满足AI服务器长期稳定运行的目的相应的功率半导体用量显著提升且器件品类向超结MOSGaN器件过渡AI服务器产业链推荐1代工工业富联环旭电子闻泰科技2PCB沪电股份深南电路东山精密鹏鼎控股3电源及安全芯片国芯科技杰华特东微半导新洁能扬杰科技风险提示AI应用推广低于预期AI投资规模低于预期AI服务器渗透率提升低于预期AI监管政策收紧等重点公司盈利预测及投资评级公司公司投资昨收盘总市值EPSPE代码名称评级元亿元2022E2023E2022E2023E601138工业富联买入17663507101119175148002463沪电股份买入2160410065088333245688262国芯科技买入6652160000120-554688099晶晨股份买入8838367208242424366601231环旭电子买入1870413138156136120002841视源股份买入8215576294342279240688036传音控股买入10915878348473314231688141杰华特买入54732450330631664864600584长电科技买入3340594185204181164688261东微半导买入21387144432595495359001308康冠科技买入4419231277324159137002384东山精密买入2979509138170216176002938鹏鼎控股买入3336774210227159147000810创维数字买入2012231072088281228资料来源Wind国信证券经济研究所预测请务必阅读正文之后的免责声明及其项下所有内容证券研究报告内容目录大模型AI东风已至AI服务器芯片乘风启航6发布针对AIGC训练GPU英伟达掀起AI服务器芯片市场争夺6AIGC训练引入海量数据负载AI服务器市场规模有望大幅提升8大算力AI加速芯片由海外垄断制裁加强下国产替代空间大9产业链相关公司11大算力遭遇后摩尔时代异构集成引吭高歌13后摩尔时代工艺制约先进芯片发展13异构集成突破制程瓶颈Chiplet成为关键技术14UCIe联盟汇聚全球科技巨头推动Chiplet异构集成快速发展17重点推荐标的18产业链相关公司19大算力驱动数据量激增存储芯片迎新风口20大模型训练产生海量数据存储需求3DNAND需求提升20大模型AI数据中心有望提振DRAM市场21重点推荐标的23产业链相关公司24AIGC或激发AIoT升级端侧芯片有望受益25重点推荐标的27产业链相关公司28AI服务器加速渗透驱动硬件全面升级29算力升级催化AI服务器加速渗透29AI服务器加速渗透整机结构方案全面升级31AI新基建与新平台发布共振PCB量价齐升34服务器系统功率倍增功率器件量价齐升37风险提示40请务必阅读正文之后的免责声明及其项下所有内容3证券研究报告图表目录图1配备四对H100与双GPUNVLink的标准服务器的速度较HGXA100最高可达10倍6图2云-边-端算力架构7图32021-2026年全球数据总量及预测8图42016-2021年全球数据中心负载任务量及预测8图52016-2021年全球超级数据中心数量及比例8图62022年全球数据中心CPU市场份额9图71H21中国AI芯片市场份额按加速卡类型9图82018-2025年全球AI芯片市场规模及预测10图92019-2024年中国AI芯片市场规模及预测10图10当前先进芯片发展遇到存储墙面积墙功耗墙和功能墙13图11Chiplet异构集成示意14图12硅通孔技术14图13英伟达A100GPUCoWoS封装15图14基于TSV技术实现堆叠HBM15图15英特尔CO-EMIB技术16图16台积电InFO技术17图17扇出封装市场增速17图18UCle联盟成员17图19高性能封装领域市场规模预测18图20高性能封装投资排名18图21全球前十大封测公司19图22各厂商3DNAND工艺演进20图23NAND厂商量产产品20图242021-2027年全球3DNAND需求变化21图252021-2023年全球3DNAND供应量变化21图262022年全球3DNAND主要厂商市占情况21图272022年全球3DNAND主要需求细分21图28各厂商DRAM工艺演进22图29MicronLPDDR5X采用1工艺22图302021-2027年全球DRAM需求变化22图312019-2022年全球DRAM供应量变化22图322022年PC服务器需求占比3123图33PC服务器DRAM需求快速增长23图342022年全球DRAM主要厂商市占情况23图35AIoT概念25图36AIoT场景智能交互遇瓶颈25图372019年美国语音助理市场份额25请务必阅读正文之后的免责声明及其项下所有内容4证券研究报告图38全球智能音箱市场下滑25图39AIGC支撑AI多模交互26图40全球ARVR出货量预测27图41全球智能家居啊出货量预测27图42晶晨A311D2AISoC27图43瑞芯微RK3588AISoC27图44服务器向AI服务器升级29图45全球服务器出货量情况万台30图46全球服务器出货金额情况亿元30图47全球服务器供应商市占率分布情况30图48全球服务器出货金额情况亿美元31图49全球AI服务器供应商市占率分布情况31图50SUPERMICRO服务器设计案例31图51全球以太网交换机端口出货量情况万台32图52全球以太网交换机端口出货金额情况亿元32图53全球以太网交换机端口供应商市占率分布情况32图54全球服务器季度出货量Intel服务器平台发布时间34图55服务器平台中各部件的关系35图56PCLe每次升级都会让通道速度近乎翻倍35图57PCB在服务器中的部分应用36图58覆铜板电性能等级36图59MPS的Intelli-Phase和QSMOD技术37图60数据中心及通信带来的功率器件增量38表1初代GPT至GPT-3对比6表2云边端三种应用场景对芯片的要求7表3不同技术架构AI芯片比较9表4数据中心GPU典型公司及产品10表5数据中心FPGA典型公司及产品10表6数据中心ASIC典型公司及产品11表7服务器CPU35请务必阅读正文之后的免责声明及其项下所有内容5证券研究报告大模型AI东风已至AI服务器芯片乘风启航发布针对AIGC训练GPU英伟达掀起AI服务器芯片市场争夺围绕生成式人工智能英伟达发布一系列加速模型训练和推理的软硬件新品2023年3月22日英伟达在GTC大会上发布一款新的GPU带有双GPUNVLink的H100NVL以支持ChatGPT类大型语言模型推理基于NVIDIAHopper架构的H100配有一个Transformer引擎H100NVL拥有188GBHBM3内存每张卡94GB是目前英伟达发布的内存最大的显卡与用于GPT-3处理的HGXA100相比配备四对H100与双GPUNVLink的标准服务器的速度最高可达10倍图1配备四对H100与双GPUNVLink的标准服务器的速度较HGXA100最高可达10倍资料来源英伟达官网国信证券经济研究所整理ChatGPT引领全球AI浪潮预训练大模型参数提升对数据中心算力提出更高要求从2018年起OpenAI开始发布生成式预训练语言模型GPT当时参数量只有117亿个2020年OpenAI发布GPT-3预训练模型参数量为1750亿个使用1000亿个词汇的语料库进行训练在文本分析机器翻译机器写作等自然语言处理应用领域表现出色2022年12月OenAI发布基于GPT-35的聊天机器人模型ChatGPT具有出色的文字聊天和复杂语言处理能力从运算规格来看ChatGPT主要以NVIDIAA100为主独家使用MicrosoftAzure云服务资源表1初代GPT至GPT-3对比版本初代GPTGPT-2GPT-3时间2018年6月2019年2月2020年5月参数量117亿154亿1750亿预训练数据量5GB40GB45TB训练方式Pre-trainingFine-tuningPre-trainingPre-training序列长度51210242048ofDecoderLayers124896SizeofHiddenLayers768160012288资料来源腾讯云开发者国信证券经济研究所整理请务必阅读正文之后的免责声明及其项下所有内容6证券研究报告云-边-端高算力网络基本形成通过构建泛在部署架构满足大算力需求云端智能芯片及加速卡是云服务器数据中心等进行人工智能处理的核心器件算力由GPUNPU等芯片产生通过虚拟平台调度服务器设备进行复杂数据处理支持高复杂度和数据吞吐量高速增长的人工智能处理任务边缘计算在终端和云端之间的设备上配备适度的计算能力算力由CPUFPGA等芯片产生可云计算场景下数据安全隐私保护带宽与时延等潜在问题保障数据传输的稳定性和低延时性终端智能处理器是终端设备中支持人工智能处理运算的核心器件算力主要由CPUDSP等芯片产生使终端设备拥有更流畅的用户体验图2云-边-端算力架构资料来源华为官网国信证券经济研究所整理云计算为人工智能提供了基础架构云端是承载海量数据处理和大规模计算的重要载体目前云边端应用场景尚无标准划分界人工智能技术在云边端设备中均有广泛应用不同应用场景对芯片算力和功耗要求亦不相同其中数据中心侧对芯片要求更高一般要求具有高性能高存储容量高计算密度兼有推理和训练任务的特点其典型计算能力大于30TOPS典型功耗大于50瓦主要应用于云计算数据数据中心等领域表2云边端三种应用场景对芯片的要求应用场景芯片需求典型计算能力典型功耗典型应用领域高性能高计算密度兼有推理和训练任务单价高云端30TOPS50瓦云计算数据中心企业私有云等硬件产品形态少对功耗性能尺寸的要求常介于终端与云端之间推智能制造智能家居智能零售智慧交通智边端5TOPS至30TOPS4瓦至15瓦理任务为主多用于插电设备硬件产品形态相对较少慧金融智慧医疗智能驾驶等众多应用领域低功耗高能效推理任务为主成本敏感硬件产品终端8TOPS5瓦各类消费类电子物联网产品等形态众多资料来源寒武纪招股书国信证券经济研究所整理请务必阅读正文之后的免责声明及其项下所有内容7证券研究报告AIGC训练引入海量数据负载AI服务器市场规模有望大幅提升全球数据总量及数据中心负载任务量大幅度上涨服务器算力需求呈指数级增长随着人工智能数据挖掘等新技术发展海量数据产生及对其计算和处理成为数据中心发展关键据IDC数据全球数据总量预计由2021年的8247ZB上升至2026年的21599ZB对应CAGR达2124其中大规模张量运算矩阵运算是人工智能在计算层面的突出需求高并行度的深度学习算法在视觉语音和自然语言处理等领域上的广泛应用使得算力需求呈现指数级增长据Cisco数据全球数据中心负载任务量预计由2016年的2415万个上升至2021年的5667万个对应CAGR达1860其中云数据中心负载任务量CAGR预计达22图32021-2026年全球数据总量及预测图42016-2021年全球数据中心负载任务量及预测资料来源IDC国信证券经济研究所整理资料来源CiscoGlobalCloudIndex国信证券经济研究所整理随着云计算的不断发展全球范围内云数据中心超级数据中心的建设速度不断加快据Cisco数据全球超级数据中心数量预计由2016年的338座增长至2021年的628座对应CAGR为1319占数据中心比例预计由2016年的27上升至2021年的53在云端服务器及数据中心需要对大量原始数据进行运算处理对于芯片等基础硬件的计算能力计算进度数据存储和带宽等都有较高要求传统数据中心存在着能耗较高计算效率较低等诸多发展瓶颈因此数据中心中服务器的智能化将是未来发展趋势图52016-2021年全球超级数据中心数量及比例资料来源CiscoGlobalCloudIndex国信证券经济研究所整理请务必阅读正文之后的免责声明及其项下所有内容8证券研究报告大算力AI加速芯片由海外垄断制裁加强下国产替代空间大AI芯片又称AI加速器或计算卡是专门用于处理人工智能应用中大量计算任务的模块随着数据海量增长算法模型趋向复杂处理对象异构计算性能要求高AI芯片能够在人工智能的算法和应用上做针对性设计高效处理人工智能应用中日渐多样繁杂的计算任务当前主流的AI芯片主要包括图形处理器GPU现场可编程门阵列FPGA专用集成电路ASIC神经拟态芯片NPU等其中GPUFPGA均是前期较为成熟的芯片架构属于通用型芯片ASIC属于为AI特定场景定制的芯片另外中央处理器CPU是计算机的运算和控制核心是信息处理程序运行的最终执行单元是计算机的核心组成部件表3不同技术架构AI芯片比较种类定制化程度可编辑性算力价格优点缺点应用场景通用型较强适合大规模并行运算设计和制并行运算能力在推理段无高级复杂算法和通用性人GPU通用型不可编辑中高造工艺成熟法完全发挥工智能平台可通过编程灵活配置芯片架构适应算法迭代量产单价高峰值计算能FPGA半定制化容易编辑高中平均性能较高功耗较低开发时间较短力较低硬件编程困难适用于各种具体的行业当客户处在某个特殊场通过算法固化实现极致的性能和能效平均性前期投入成本高研发时景可以为其独立设计一ASIC全定制化难以编辑高低很强功耗很低体积小量产后成本最低间长技术风险大套专业智能算法软件资料来源亿欧智库国信证券经济研究所整理当前CPU市场主要被国际厂商垄断IntelAMD合计市场份额超九成据Counterpoint数据2022年全球数据中心CPU市场份额中Intel占比达708保持市场领先地位AMD占比达198前两大巨头合计市场份额超过90GPU在训练负载中具有绝对优势未来AI芯片将更加细分和多元据IDC数据1H21中国AI芯片市场份额中GPU占比高达919依然是实现数据中心加速的首选NPUASICFPGA占比分别为631503随着非GPU芯片在各个行业和领域中被越来越多采用高算力低能耗且适应各类复杂环境的芯片将更受关注IDC预计到2025年其他非GPU芯片整体市场份额占比将超过20图62022年全球数据中心CPU市场份额图71H21中国AI芯片市场份额按加速卡类型资料来源Counterpoint国信证券经济研究所整理资料来源IDC国信证券经济研究所整理随着人工智能技术进步及应用场景多元化全球及中国AI芯片市场将得到进一步发展据Tractica数据全球AI芯片市场规模预计由2018年的51亿美元增长至2025年的726亿美元对应CAGR达4614据前瞻产业研究院数据中国请务必阅读正文之后的免责声明及其项下所有内容9证券研究报告AI芯片市场规模预计由2019年的122亿元增长至2024年的785亿元对应CAGR达4511图82018-2025年全球AI芯片市场规模及预测图92019-2024年中国AI芯片市场规模及预测资料来源Tractica国信证券经济研究所整理资料来源前瞻产业研究院国信证券经济研究所整理GPU作为图像处理单元其能够并行计算的性能优势满足深度学习需求GPU最初承担图像计算任务目标是提升计算机对图形图像视频等数据的处理性能解决CPU在图形图像领域处理效率低的问题由于GPU能够进行并行计算其架构本身较为适合深度学习算法因此通过对GPU的优化能够进一步满足深度学习大量计算的需求表4数据中心GPU典型公司及产品双精度浮点运算单精度浮点运算半精度浮点运算整型定点运算性能公司名称产品型号发布时间制程显存显存带宽最大功耗性能TFLOPS性能TFLOPS性能TFLOPSTOPS1979Tensor3958TensorH100SXM20224nm265180GB335TBs700WCoreCoreNvidia624Tensor1248TensorA10080GBSXM20207nm9719580GB2039GBs400WCoreCoreV100SPCle201912nm82164--32GB1134GBs250W云燧i20202112nm-3212825616GB819GBs150W燧原科技云燧T20202112nm-3212825632GB16TBs300W云燧T21202112nm-3212825632GB16TBs300W资料来源英伟达燧原科技官网国信证券经济研究所整理FPGA是一种硬件可重构的集成电路芯片通过编程定义单元配置和链接架构进行计算FPGA具有较强的计算能力较低的试错成本足够的灵活性以及可编程能力在5G通信人工智能等具有较频繁的迭代升级周期较大的技术不确定性的领域是较为理想的解决方案表5数据中心FPGA典型公司及产品公司名称产品型号发布时间制程等效LUT4分布式RAMKbit最大用户IODDRrateMbps安路科技PH1A系列PH1A180SFG676202228nm21024032773961866紫光同创Logos-2系列PG2L200H202028nm23970025285001066资料来源安路科技紫光同创官网国信证券经济研究所整理ASIC是一种根据产品的需求进行特定设计和制造的集成电路能够更有针对性地进行硬件层次的优化由于ASIC能够在特定功能上进行强化因此具有更高的处理速度和更低的能耗相比于其他AI芯片ASIC设计和制造需要大量的资金较长的研发周期和工程周期在深度学习算法仍在快速发展的背景下存在一旦定请务必阅读正文之后的免责声明及其项下所有内容10证券研究报告制则难以修改的风险表6数据中心ASIC典型公司及产品单精度浮点运算半精度浮点运算整型定点运算公司名称产品型号发布时间制程显存显存带宽功耗性能TFLOPS性能TFLOPS性能TOPSGoogleTPUv420217nm-27527532GB1200GBs192W平头哥含光800202112nm--825--276W寒武纪思元370MLU370-X820217nm249625648GB6144GBs250W华为海思昇腾91020187nm-320640--310W资料来源Google平头哥寒武纪华为海思官网国信证券经济研究所整理产业链相关公司寒武纪688256SH公司专注于人工智能芯片产品的研发与技术创新致力于打造人工智能领域的核心处理器芯片提供云边端一体软硬件协同训练推理融合具备统一生态的系列化智能芯片产品和平台化基础系统软件2022年3月公司正式发布新款训练加速卡MLU370-X8MLU370-X8搭载双芯片四芯粒思元370集成寒武纪MLU-Link多芯互联技术主要面向训练任务在业界应用广泛的YOLOv3Transformer等训练任务中8卡计算系统的并行性能平均达到350WRTXGPU的155海光信息688041SH公司是国产服务器CPU芯片龙头掌握了高端处理器核心微结构设计高端处理器SoC架构设计处理器安全处理器验证高主频与低功耗处理器实现高端芯片IP设计先进工艺物理设计先进封装设计基础软件等关键技术主要产品包括海光通用处理器CPU和海光协处理器DCU其中CPU系列产品兼容x86指令集以及国际上主流操作系统和应用软件性能优异软硬件生态丰富安全可靠得到了国内用户的高度认可DCU系列产品以GPGPU架构为基础兼容通用的类CUDA环境以及国际主流商业计算软件和人工智能软件软硬件生态丰富可广泛应用于大数据处理人工智能商业计算等应用领域复旦微电688385SH公司是一家从事超大规模集成电路的设计开发测试并为客户提供系统解决方案的专业公司公司是国内FPGA领域技术较为领先的公司之一目前已可提供千万门级FPGA芯片亿门级FPGA芯片以及嵌入式可编程器件芯片PSoC产品当前公司正在积极开展十亿门级产品的开发确保公司在国产可编程器件领域技术上的领先地位同时公司也在进一步丰富28nm工艺制程的FPGA及PSoC芯片谱系种类以满足市场不同层次的需求平头哥未上市公司是阿里巴巴全资的半导体芯片业务主体主要针对下一代云端一体芯片新型架构开发数据中心和嵌入式IoT芯片产品2019年公司发布阿里第一颗高性能AI推理芯片含光800覆盖阿里巴巴丰富的应用场景将部署于城市大脑拍立淘智能服装设计搜索和广告推荐等多个业务在业界标准的ResNet-50测试中含光800推理性能达到78563IPS比目前业界最好的AI芯片性能高4倍能效比500IPSW是第二名的33倍2021年平头哥发布玄铁907处理器玄铁系列处理器出货量超20亿壁仞科技未上市公司致力于开发原创性的通用计算体系建立高效的软硬件平台同时在智能计算领域提供一体化的解决方案公司首先聚焦云端通用智能计算逐步在人工智能训练和推理图形渲染等多个领域赶超现有解决方案实现国产高端通用智能计算芯片的突破2022年8月公司在上海发布首款通用GPU芯片BR100创出全球算力纪录16位浮点算力达到1000T以上8位定点算力请务必阅读正文之后的免责声明及其项下所有内容11证券研究报告达到2000T以上单芯片峰值算力达到PFLOPS级别燧原科技未上市公司是国内第一家同时拥有高性能云端训练和云端推理产品的创业公司专注人工智能领域云端算力产品2021年12月公司发布了第二代云端人工智能推理加速卡云燧i20云燧i20拥有迄今为止业内最大的AI加速卡存储带宽高达819GBs远超行业同类产品水平同时全面支持从FP32TF32FP16BF16到INT8的计算精度对比第一代推理产品云燧i20将浮点算力提升到18倍整型算力提升到36倍请务必阅读正文之后的免责声明及其项下所有内容12证券研究报告大算力遭遇后摩尔时代异构集成引吭高歌后摩尔时代工艺制约先进芯片发展后摩尔时代集成电路的发展受存储墙面积墙功耗墙和功能墙制约2015年以后集成电路制程的发展进入了瓶颈7nm5nm3nm制程的量产进度均落后于预期随着台积电宣布2nm制程工艺实现突破集成电路制程工艺已接近物理尺寸的极限集成电路行业进入了后摩尔时代后摩尔时代制程技术突破难度较大工艺制程受成本大幅增长和技术壁垒等因素上升改进速度放缓存储墙处理器算力超过存储芯片存取能力导致综合算力被存储器制约据行业预计处理器的峰值算力每两年增长31倍而动态存储器DRAM的带宽每两年增长14倍存储器的发展速度远落后于处理器相差17倍面积墙芯片制程相同时通过增大芯片面积可以集成更多的晶体管数量从而提升芯片的性能然而单颗芯片尺寸受限于光刻机的光罩极限且芯片制造良率随尺寸增大二降低从而增加成本当前最先进的EUV光刻机的最大光罩面积为26mm33mm2020年英伟达A100GPU芯片采用台积电7nm工艺通过常规手段制造了接近1个光罩面积的芯片面积达255mm324mm功耗墙近年来单个GPU和CPU的热设计功耗ThermalDesignPowerTDP逐年增大预计2024年单个GPU的TDP将突破千瓦级由多个GPU芯片和高带宽存储器HighBandwidthMemoryHBM阵列组成的系统TDP可能突破万瓦级热设计者将面临极大的挑战功能墙单一衬底可实现的功能有限芯片面积和数量大幅提升造成整系统集成度无法再提高图10当前先进芯片发展遇到存储墙面积墙功耗墙和功能墙资料来源先进封装技术的发展与机遇前瞻科技2022年第3期国信证券经济研究所整理请务必阅读正文之后的免责声明及其项下所有内容13证券研究报告异构集成突破制程瓶颈Chiplet成为关键技术芯粒异构集将成为后摩尔时代集成电路发展的关键路径和突破口芯粒Chiplet是指预先制造好具有特定功能可组合集成的晶片Die应用系统级封装技术SiP通过有效的片间互联和封装架构将不同功能不同工艺节点的制造的芯片封装到一起即成为一颗异构集成HeterogeneousIntegration的芯片通过芯片异构集成将传感存储计算通信等不同功能的元器件集成在一起成为解决只靠先进制程迭代难以突破的平衡计算性能功耗成本的难点图11Chiplet异构集成示意资料来源日月光国信证券经济研究所整理关键技术1硅通孔技术TSV硅通孔技术TSVThroughSiliconVia为连接硅晶圆两面并与硅衬底和其他通孔绝缘的电互连结构可以穿过硅基板实现硅片内部垂直电互联这项技术是目前唯一的垂直电互联技术是实现25D3D先进封装的关键技术之一主要用于硅转接板芯片三维堆叠等方面TSV的尺寸多为10m100m和30m200m开口率介于01-1相比平面互连TSV可减小互连长度和信号延迟降低寄生电容和电感实现芯片间的低功耗和高速通信增加宽带和实现封装小型化图12硅通孔技术资料来源先进封装技术的发展与机遇前瞻科技2022年第3期国信证券经济研究所整理请务必阅读正文之后的免责声明及其项下所有内容14证券研究报告借助TSV技术英伟达采用台积电第4代CoWoS技术封装了A100GPU实现一颗A100GPU和6个三星HBM2集成为一颗芯片该技术将多颗芯片键合至硅基转接板晶圆上SiInterposer形成逻辑SoC芯片和HBM阵列通过RDL和TSV形成互联并连接硅基转接板晶圆凸点英特尔Foveros技术3DFacetoFaceChipStackforheterogeneousintegration亦通过3DTSV实现3D堆叠异构封装技术HBM亦是通过TSV技术连通堆叠的DRAM实现对存储墙突破HBMHigh-BandwidthMemory高带宽内存主要针对高端显卡市场HBM使用了3DTSV和25DTSV技术通过3DTSV把多块内存芯片堆叠在一起并使用25DTSV技术把堆叠内存芯片和GPU在载板上实现互连图13英伟达A100GPUCoWoS封装图14基于TSV技术实现堆叠HBM资料来源先进封装技术的发展与机遇前瞻科技2022年第资料来源AMD国信证券经济研究所整理3期国信证券经济研究所整理关键技术2EMIB嵌入式多芯片互连桥先进封装技术EMIBEmbeddedMulti-DieInterconnectBridge是X-Y平面延伸的先进封装技术EMIB是由英特尔提出并积极应用的EMIB理念跟基于硅中介层的25D封装类似是通过硅片进行局部高密度互连与传统25D封装的相比因为没有硅中介层和TSVEMIB技术具有正常的封装良率无需额外工艺和设计简单等优点EMIB硅片面积也更微小更灵活更经济采用EMIB技术CPUGPU对工艺要求高可以使用10nm工艺IO单元通讯单元可以使用14nm工艺内存部分则可以使用22nm工艺采用EMIB先进封装技术可以把三种不同工艺整合到一起成为一个处理器通过整合EMIB和FovorosCO-EMIB实现更高集成度异构集成利用利用高密度的互连技术将EMIB2D封装和Foveros3D封装技术结合在一起实现高带宽低功耗以及相当有竞争力的IO密度Co-EMIB能连接更高的计算性能和能力让两个或多个Foveros元件互连从而基本达到SoC性能还能以非常高的带宽和非常低的功耗连接模拟器内存和其他模块请务必阅读正文之后的免责声明及其项下所有内容15证券研究报告图15英特尔CO-EMIB技术资料来源英特尔国信证券经济研究所整理关键技术3超高密度扇出UHDFan-Out扇出型封装扇出Fan-Out相对于扇入Fan-In具备实现更多IO等能力从而成为多芯粒异构集成重要技术扇出和扇入型工艺相似当芯片被加工切割完毕之后会放置在基于环氧树脂模制化合物的晶圆上这被称为重构晶圆然后在模制化合物上形成再分布层RDLRDL是金属铜连接走线将封装各个部分进行电气连接最后重构晶圆上的单个封装就会被切割两者最大的差异在于在扇入型封装中RDL向内布线而在扇出型封装中RDL既可向内又可向外布线因此扇入型封装最大只能容许约200个IO而扇出型封装可以实现更多的IO2020年台积电发布集成扇出型晶圆上系统InFOSoW通过超高密度扇出封装技术将多颗好的晶粒供电散热模块和连接器紧凑地集成在晶圆上包含6层RDL前3层线宽线距为55m用于细线路芯片间互连后3层线宽线距为1520m用于供电和连接器互连相比印制电路板级多芯片模块InFOSoW具有高带宽低延迟和低功耗的特点请务必阅读正文之后的免责声明及其项下所有内容16证券研究报告图16台积电InFO技术图17扇出封装市场增速资料来源台积电国信证券经济研究所整理资料来源Yole国信证券经济研究所整理UCIe联盟汇聚全球科技巨头推动Chiplet异构集成快速发展UCIe联盟成立并发布统一Chiplet互联互通标准全球科技大厂纷纷加入推动Chiplet异构集成进入发展快车道2022年3月3日英特尔AMDARM高通台积电三星日月光GoogleCloudMeta微软等十大行业巨头联合成立了Chiplet标准联盟正式推出了通用Chiplet高速互联标准UniversalChipletInterconnectExpress通用芯粒互连简称UCIe旨在定义一个开放可互操作的芯粒Chiplet生态系统标准UCIe标准的确定有望转变目前异构芯片各家单打独斗的局面拥有可靠的数据传输和链路管理设计者和芯片制造商都可以利用现有的PCIeCXL软件将芯片设计走向更加灵活的设计思路满足多样化定制需求最大化地将各晶圆厂和科技公司的优势相结合在高效设计封装成本方面达到完美的平衡点图18UCle联盟成员资料来源UCle联盟国信证券经济研究所整理请务必阅读正文之后的免责声明及其项下所有内容17证券研究报告Chiplet异构集成的关键技术市场规模进入快速增长期全球半导体制造巨头纷纷加大投入根据Yole预计至2027年全球超高密度扇出HBM硅中介层EMIBCo-EMIB等为代表的高性能封装方案市场规模将由2021年的274亿美元增长至787亿美元复合增长率为19根据Yole统计2021年全球头部半导体制造公司在高性能封装投资达到119亿美元其中英特尔台积电和日月光占据前三长电科技和通富微电排名全球第6和第7图19高性能封装领域市场规模预测图20高性能封装投资排名资料来源Yole国信证券经济研究所整理资料来源Yole国信证券经济研究所整理重点推荐标的长电科技600584SH公司是全球第三大集成电路封装测试企业UCIe联盟成员公司在中国韩国和新加坡设有六大生产基地和两大研发中心具有广泛的技术积累和产品解决方案包括有自主知识产权的Fan-outeWLBWLCSPBumpPoPfcBGA系统级封装SiPPA等封装技术2023年1月5日公司宣布其XDFOIChiplet高密度多维异构集成系列工艺已按计划进入稳定量产阶段同步实现国际客户4nm节点多芯片系统集成封装产品出货最大封装体面积约为1500mm的系统级封装通富微电002156SZ公司是新晋全球第四大集成电路封装测试企业UCle联盟成员公司通过在多芯片组件集成扇出封装25D3D等先进封装技术方面的提前布局可为客户提供多样化的Chiplet封装解决方案已为AMD大规模量产Chiplet产品公司Fan-out技术达到世界先进水平高密度扇出型封装平台完成6层RDL开发通过与传统基板配合可解决高性能计算封装的高端基板短缺问题25D3D先进封装平台方面取得突破性进展BVR技术实现通线并完成客户首批产品验证2层芯片堆叠的CoW技术完成技术验证芯原股份688521SHUCIe联盟成员一家依托自主半导体IP为客户提供平台化全方位一站式芯片定制服务和半导体IP授权服务的企业作为国内首批加入该组织的企业芯原将与UCIe产业联盟其他成员共同致力于新一代UCIe技术标准的研究与应用为芯原Chiplet技术的发展进一步夯实基础在平板电脑应用领域公司已推出了基于Chiplet架构所设计的12nmSoC版本的高端应用处理器平台并已完成流片和验证请务必阅读正文之后的免责声明及其项下所有内容18证券研究报告图21全球前十大封测公司资料来源芯思想研究院国信证券经济研究所整理产业链相关公司华天科技002185SH公司是全球第六大集成电路封装测试企业成电路封装产品主要有DIPSDIPSOTSOPSSOPTSSOPETSSOPQFPLQFPTQFPQFNDFNBGALGAFCMCMMCPSiPWLPTSVBumpingMEMS等多个系列产品主要应用于计算机网络通讯消费电子及智能移动终端物联网工业自动化控制汽车电子等电子整机和智能化领域盛合晶微未上市盛合晶微半导体有限公司原名中芯长电半导体有限公司于2014年8月注册成立是全球首家采用集成电路前段芯片制造体系和标准采用独立专业代工模式服务全球客户的中段硅片制造企业2022年8月公司发挥多层细线宽RDL再布线加工技术的优势实现了近存计算芯片大尺寸全RDL走线封装结构的量产标志着在国内率先成功实现以晶圆级扇出封装代替传统的基板封装提供了大尺寸运算芯片封装结构的双重选择请务必阅读正文之后的免责声明及其项下所有内容19证券研究报告大算力驱动数据量激增存储芯片迎新风口大模型训练产生海量数据存储需求3DNAND需求提升随着算力的不断进步所需存储的数据量在以指数级的增长速度攀升存储单元在水平方向上变得不易持续尺寸微缩不再能够满足存储器的成本需求垂直堆叠存储单元的3DNAND逐渐成为市场主流2013年三星推出首个商用NANDFlash采用垂直堆叠的3DV-NANDV-NAND结合MLC设计Multi-LevelCell有24层堆叠大小128Gb面积为133mm2在2013年后3DNAND的堆叠层数出现了快速增长2015年推出了48层NAND2017年推出64层2019年96层2020年128层2021年176层2022年长江存储推出232层三星英特尔美光长江存储东芝SK海力士西数等技术都超过了100层三星美光SK海力士长江存储等均超过了200层图22各厂商3DNAND工艺演进图23NAND厂商量产产品资料来源TechInsights国信证券经济研究所整理资料来源TechInsights国信证券经济研究所整理数据激增刺激NAND需求逐年上升据IDC统计2022年NAND需求量约6千亿Gb到2027年将达到176千亿Gb年复合增速201供应量在21约6千亿Gb预计2023年将增长至75千亿Gb随着AI的迅速发展产生和需处理的数据量将会进一步攀升对NAND存储器的需求也将持续扩大3DNAND市场被海外厂商占据长江存储努力突围截至2022年全球3DNAND市场主要被三星SK海力士铠侠西部数据美光等海外大厂所垄断占比高达97国内优秀存储厂商长江存储厚积薄发在全球NAND市场中已占据一席之地创新研发的Xtacking技术进一步提高了芯片的集成度在堆叠层数上率先进入了200层以上的第一梯队NAND主要应用于存储端和手机端据IDC统计应用于存储器的NAND占比571应用于手机端的NAND占比306请务必阅读正文之后的免责声明及其项下所有内容20
|
相关行业报告
|
||||||||||||||||||||||||||
