昇腾计算:全栈AI基础设施及应用服务。1)昇腾计算产业基于昇腾系列处理器和基础软件,构建全栈AI计算基础设施、行业应用及服务,包括系列处理器、系列硬件、CANN、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等。2)昇腾310和910处理器为华为AI算力领域核心产品,基于达芬奇架构,覆盖端边云全场景,可满足不同部署环境差异性的算力需求,从算力和功耗来看,目前昇腾910单卡Int8算力大致可达0.6 P,最大功耗为300W。3)基于昇腾910和310 AI处理器,昇腾计算产业在硬件方面坚持“硬件开放”策略,通过自有硬件和合作硬件相结合的方式为客户提供多样化的算力选择。其中,自有硬件主要为Atlas系列硬件产品,包含模组、板卡、小站、服务器、集群等多个产品形态,可广泛用于“平安城市、智能交通、智能医疗、智能零售、智能金融”等领域;合作硬件则为合作伙伴基于Atlas系列硬件进行集成和二次开发,联合打造有竞争力的产品,目前已在机器人、电力巡检等领域落地。
算力为基,乘风而行。1)AI算力需求持续提升:以ChatGPT为代表的大模型落地,标志AI技术落地应用进入全新阶段,并引发训练与推理算力需求激增。华为早在2021年发布盘古大模型,包括自然语言大模型、视觉大模型、多模态大模型、预测大模型、科学计算大模型,提供满足行业场景的多种技能。众多厂商竞相布局大模型,同时大模型自身技术路线也逐步多元化,多模态有望成为重要方向,算力需求未来有望持续释放。2)华为智车持续突破:今年以来,华为自动驾驶ADS 2.0迎来实质性飞跃,可实现无图高阶自动驾驶,而在2023年底则有望在全国范围实现NCA功能。自动驾驶级别的提升目前L2级别的自动驾驶汽车需要10 TOPS左右的算力,L3级别需100 TOPS左,L4级别后算力需求将大幅度提升至1000 TOPS以上。依托昇腾系列芯片,华为MDC平台可赋能多级别自动驾驶场景,为目前已经量产、最大算力、最全系列的智能驾驶计算平台。3)各地算力基建持续推进:近年,通过支持各地AI集群中心和华为云中心的建设,华为积累了丰富的集群交付和部署经验,已经累计部署超千柜昇腾AI集群,是AI集群部署数量最多的厂商。截止2023年7月6日,昇腾AI集群已支撑全国25个城市的人工智能计算中心建设。4)自主可控加速落地:外部环境错综复杂,全球产业链供应链面临重塑,应换尽换、真替真用共识进一步强化。在此国际大背景下,华为作为中国信创领域巨头,行业大单不断落地。 投资建议:昇腾算力提升有望带来相关硬件持续突破,同时,依托华为自身庞大合作生态,应用使能,带动整体产业链共振。1)服务器厂商:昇腾910为2019年发布产品,从性能看已经可对标主流AI芯片产品,考虑到产品稳定性和性能的代际提升,有望从底层芯片出发赋能相关硬件产品,其中服务器为AI算力建设刚性需求,有望直接受益。建议关注中国长城、高新发展、神州数码、拓维信息、四川长虹、烽火通信、广电运通等;2)华为智车:考虑到华为在自动驾驶、智能座舱、智能安全等方面的产业引领效应,在整机厂竞争加剧环境下,华为合作生态有望提升产品力,产业链相关公司则有望依托生态优势,受益国内智能汽车发展红利,形成先发卡位。建议关注赛力斯、长安汽车、江淮汽车、德赛西威、中科创达、经纬恒润、润和软件、北汽蓝谷、光庭信息等。3)应用使能:从昇腾计算产业生态看,不同行业的场景应用有望伴随昇腾算力的提升优化,不断进行模型、算法的迭代优化,同时,更加稳定可靠、高能效、高性价比的算力支撑也有望加速相关应用落地。建议关注长期与华为进行合作的和核心ISV,如润和软件、软通动力、常山北明、智洋创新、梅安森、智度股份、北路智控、佳都科技等。 风险提示:技术迭代不及预期、经济下行超预期、行业竞争加剧 研究报告全文:证券研究报告行业专题研究2023年10月17日计算机华为算力进展不断昇腾计算全栈AI基础设施及应用服务1昇腾计算产业基于昇腾系列处理器和增持维持基础软件构建全栈AI计算基础设施行业应用及服务包括系列处理器系列硬件CANNAI计算框架应用使能开发工具链管理运维工具行业应用及服务等2昇腾310和910处理器为华为AI算力领域核心产品基于达芬奇架构行业走势覆盖端边云全场景可满足不同部署环境差异性的算力需求从算力和功耗来看目前昇腾910单卡Int8算力大致可达06P最大功耗为300W3基于昇腾910计算机沪深300和310AI处理器昇腾计算产业在硬件方面坚持硬件开放策略通过自有硬件64和合作硬件相结合的方式为客户提供多样化的算力选择其中自有硬件主要为48Atlas系列硬件产品包含模组板卡小站服务器集群等多个产品形态可广32泛用于平安城市智能交通智能医疗智能零售智能金融等领域合作硬件则为合作伙伴基于Atlas系列硬件进行集成和二次开发联合打造有竞争力的产16品目前已在机器人电力巡检等领域落地0-16算力为基乘风而行1AI算力需求持续提升以ChatGPT为代表的大模型落地2022-102023-022023-062023-10标志AI技术落地应用进入全新阶段并引发训练与推理算力需求激增华为早在2021年发布盘古大模型包括自然语言大模型视觉大模型多模态大模型预测大模型科学计算大模型提供满足行业场景的多种技能众多厂商竞相布局大模作者型同时大模型自身技术路线也逐步多元化多模态有望成为重要方向算力需求未来有望持续释放2华为智车持续突破今年以来华为自动驾驶ADS20迎分析师刘高畅来实质性飞跃可实现无图高阶自动驾驶而在2023年底则有望在全国范围实现执业证书编号S0680518090001NCA功能自动驾驶级别的提升目前L2级别的自动驾驶汽车需要10TOPS左右的邮箱liugaochanggszqcom算力L3级别需100TOPS左L4级别后算力需求将大幅度提升至1000TOPS以相关研究上依托昇腾系列芯片华为MDC平台可赋能多级别自动驾驶场景为目前已经量产最大算力最全系列的智能驾驶计算平台3各地算力基建持续推进近1计算机GPT-4V多模态最新里程碑2023-10-15年通过支持各地AI集群中心和华为云中心的建设华为积累了丰富的集群交付和2计算机六部门联发高质量发展计划算力新基建部署经验已经累计部署超千柜昇腾AI集群是AI集群部署数量最多的厂商截进入加速落地期2023-10-10止2023年7月6日昇腾AI集群已支撑全国25个城市的人工智能计算中心建设3计算机100个有意思的AI应用2023-10-094自主可控加速落地外部环境错综复杂全球产业链供应链面临重塑应换尽换真替真用共识进一步强化在此国际大背景下华为作为中国信创领域巨头行业大单不断落地投资建议昇腾算力提升有望带来相关硬件持续突破同时依托华为自身庞大合作生态应用使能带动整体产业链共振1服务器厂商昇腾910为2019年发布产品从性能看已经可对标主流AI芯片产品考虑到产品稳定性和性能的代际提升有望从底层芯片出发赋能相关硬件产品其中服务器为AI算力建设刚性需求有望直接受益建议关注中国长城高新发展神州数码拓维信息四川长虹烽火通信广电运通等2华为智车考虑到华为在自动驾驶智能座舱智能安全等方面的产业引领效应在整机厂竞争加剧环境下华为合作生态有望提升产品力产业链相关公司则有望依托生态优势受益国内智能汽车发展红利形成先发卡位建议关注赛力斯长安汽车江淮汽车德赛西威中科创达经纬恒润润和软件北汽蓝谷光庭信息等3应用使能从昇腾计算产业生态看不同行业的场景应用有望伴随昇腾算力的提升优化不断进行模型算法的迭代优化同时更加稳定可靠高能效高性价比的算力支撑也有望加速相关应用落地建议关注长期与华为进行合作的和核心ISV如润和软件软通动力常山北明智洋创新梅安森智度股份北路智控佳都科技等风险提示技术迭代不及预期经济下行超预期行业竞争加剧请仔细阅读本报告末页声明2023年10月17日内容目录一昇腾计算全栈AI基础设施及应用服务411全栈AI计算基础设施行业应用及服务412自有合作硬件体系提供澎湃算力底座6二算力为基乘风而行1221华为盘古等AI大模型落地算力需求高涨1222华为智车再迎突破自动驾驶算力有望持续激增1623算力基建推进华为AI集群落地各地智算中心1924政策护航信创产业自主可控进一步打开需求21投资建议2331服务器厂商有望直接受益2332HuaweiInside华为智选核心伙伴有望受益2933应用使能核心行业ISV或将持续受益30风险提示33图表目录图表1华为一云两翼双引擎计算产业布局4图表2昇腾计算架构介绍5图表3昇腾310与昇腾910芯片6图表4昇腾310与昇腾910关键特性对比6图表5主流GPGPUAISC产品性能对比7图表6昇腾计算AI基础设施8图表7昇腾AI基础软硬件平台架构8图表8华为Atlas200AI加速模块型号30008图表9华为Atlas300T训练卡型号90008图表10华为昇腾计算模块与板卡技术规格9图表11华为Atlas500智能小站技术规格9图表12华为Atlas500智能小站型号30009图表13华为Atlas500智能小站产品特性9图表14华为Atlas800推理服务器型号300010图表15华为Atlas800训练服务器型号900010图表16华为推理训练边缘服务器技术规格10图表17华为Atlas900AI集群型号900011图表18华为Atlas900AI集群产品特性11图表19华为万卡AI集群11图表20华为盘古大模型结构图12图表21盘古NLP大模型应用场景与功能优势13图表22盘古CV大模型功能介绍13图表23盘古多模态大模型应用场景14图表24盘古多模态大模型功能介绍与优势14图表25盘古预测大模型产品功能14图表26盘古预测大模型应用场景与产品优势15图表27华为云盘古气象大模型研究成果在Nature正刊发表15图表28华为盘古医学大模型部分功能15P2请仔细阅读本报告末页声明2023年10月17日图表29华为科学计算大模型产品功能15图表30GPT-3训练成本估算16图表31预估LLM在GCPTPUv4芯片上的训练成本16图表32HUAWEIADS20可实现无图高阶智能驾驶17图表33HUAWEIADS20核心优势17图表34HUAWEIADS20搭载车型17图表352022-2023年中国在售新车自动驾驶搭载率预测18图表36华为智能驾驶平台产品体系18图表37华为自动驾驶云服务Octopus18图表38八爪鱼平台在典型ResNet50网络训练优于主流训练GPU19图表39昇腾AI集群部署城市人工智能计算中心19图表40武汉人工智能计算中心20图表41西安人工智能计算中心20图表42中原人工智能计算中心20图表43南京人工智能计算中心20图表442022年10月7日美对华实施对先进计算和半导体制造的相关管制条例脚注4实体清单节选21图表45数字中国建设整体布局规划22图表46昇腾计算产业生态23图表47华鲲振宇天宫系列服务器技术规格25图表48神州鲲泰AI服务器技术规格26图表49湘江鲲鹏产品技术规格27图表50长江计算产品技术规格28图表51广电五舟产品技术规格28图表52HI全栈智能汽车解决方案29图表53HI模式与传统零部件供应商模式29图表54软通动力华为-化工园区联合智能检测运维解决方案30图表55软通动力IT数字化运维全面解决方案30图表56润和软件HiHope全栈解决方案31图表57润和软件一站式HarmonyOSOpenHarmony技术适配服务流程31图表58北明软件智慧城市总体架构31图表59北明软件与华为开启昇腾AI合作新征程31图表60润达医疗数字化检验信息系统业务32图表61润达医疗和华为签署全面合作协议32图表62智洋创新智能运维解决方案架构图32图表63智洋创新基于Atlas200的智能监拍装置应用场景32P3请仔细阅读本报告末页声明2023年10月17日一昇腾计算全栈AI基础设施及应用服务2019年的第四届华为全联接大会上华为首次发布对计算产业的理解与战略宣布以一云两翼双引擎的布局全面进军计算产业双引擎指鲲鹏和昇腾两大基础芯片族构筑异构计算架构其中鲲鹏代表通用计算昇腾代表AI加速能力两翼指华为智能计算业务与智能数据与存储业务1在智能计算领域华为面向端边云场景打造鲲鹏昇腾x86GPU的多样性算力发布全球训练最快的AI训练集群Atlas900AI推理和训练卡Atlas300和AI训练服务器Atlas8002在智能数据与存储领域华为融合存储大数据数据库AI能力围绕数据全生命周期给出技术和产品支撑一云指华为云通过全栈创新提供安全可靠的混合云服务成为生态伙伴的黑土地为世界提供普惠算力图表1华为一云两翼双引擎计算产业布局资料来源华为官网国盛证券研究所11全栈AI计算基础设施行业应用及服务昇腾计算产业是基于昇腾系列HUAWEIAscend处理器和基础软件构建的全栈AI计算基础设施行业应用及服务包括系列处理器系列硬件CANNComputeArchitectureforNeuralNetworks异构计算架构AI计算框架应用使能开发工具链管理运维工具行业应用及服务等全产业链P4请仔细阅读本报告末页声明2023年10月17日图表2昇腾计算架构介绍资料来源华为昇腾计算产业发展白皮书国盛证券研究所昇腾计算的基础软硬件是产业的核心也是AI计算能力的来源华为作为昇腾计算产业生态的一员是基础软硬件系统的核心贡献者1昇腾计算的硬件系统基于华为达芬奇内核的昇腾系列处理器等多样化AI算力基于昇腾处理器的系列硬件产品如嵌入式模组板卡小站服务器集群等2昇腾计算的基础软件体系异构计算架构CANN及对应的驱动运行时加速库编译器调试调优工具开发工具链MindStudio和各种运维管理工具等开放给广大的开发者和客户AI计算框架包括开源的MindSpore以及各种业界流行的框架作为生态的有机组成部分同时昇腾计算产业秉承开放的生态建设思路支持各种计算框架对接围绕昇腾计算体系诞生了大量优秀应用如互联网推荐自然语言处理视频分析图像分类目标识别语音识别机器人等各种场景昇腾计算产业也拥抱各种云服务场景支持laasPaasSaaS等多种云服务模式同时端边云协同的能力推动昇腾计算成为全场景的AI基础设施P5请仔细阅读本报告末页声明2023年10月17日12自有合作硬件体系提供澎湃算力底座昇腾HUAWEIAscend310是一款高能效灵活可编程的人工智能处理器在典型配置下半精度FP16算力达到16TFLOPS整数精度INT8算力达到8TOPS功耗仅为8W采用自研华为达芬奇架构集成丰富的计算单元提高AI计算完备度和效率进而扩展该芯片的适用性全AI业务流程加速大幅提高AI全系统的性能有效降低部署成本昇腾HUAWEIAscend910是业界算力最强的AI处理器基于自研华为达芬奇架构3DCube技术实现业界最佳AI性能与能效架构灵活伸缩支持云边端全栈全场景应用算力方面昇腾910完全达到设计规格半精度FP16算力达到320TFLOPS整数精度INT8算力达到640TOPS功耗310W图表3昇腾310与昇腾910芯片资料来源新华网国盛证券研究所图表4昇腾310与昇腾910关键特性对比芯片昇腾HUAWEIAscend310昇腾HUAWEIAscend910架构华为达芬奇华为达芬奇计算引擎3DCube3DCube16TOPSINT8640TOPSINT8性能8TOPSFP16320TFLOPSFP16最大功耗8W310W制程12nmFFCN7资料来源海思官网国盛证券研究所昇腾910性能可对标英伟达A100从主流GPGPUASIC产品算力看昇腾910在整型算力INT8可基本对标英伟达A100PCIe80GB产品P6请仔细阅读本报告末页声明2023年10月17日图表5主流GPGPUAISC产品性能对比FP64FP32INT8互联厂商产品型号制程显存接口功耗TFLOPSTFLOPSTOPS带宽英伟达A100PCIe7nm97195624600GBs80GBPCIe300W英伟达A800PCIe7nm97195624400GBs80GBPCIe300WTeslaV100英伟达12nm78157-300GBs80GBPCIe300WPCIeInstinctAMD6nm479479383100GBs128GBPCIe560WMI250XAMDInstinctMI2506nm4534533621100GBs128GBPCIe560WAMDInstinctMI1007nm115231184692GBs32GBPCIe300W天数智芯天垓1007nm-3729564GBs32GBPCIe250W壁仞科技壁砺100P7nm-2401920448GBs64GBPCIe550W壁仞科技壁砺104P7nm-2561024192GBs32GBPCIe300WGoogleTPUv4i7nm--138300GBs8GB--GoogleTPUv47nm--2751200GBs32GB--华为海思昇腾31012nm--16---8W华为海思昇腾9107nm--640---310W燧原科技T20--32256300GBs32GBPCIe300w寒武纪MLU370-X47nm-242563072GBs24GBPCIe150W寒武纪MLU3370-S47nm-181923072GBs24GBPCIe75W资料来源英伟达官网TechPowerUpUnixcloudAMD官网天数智芯官网云轩官网壁仞科技官网NextPlatform海思官网燧原科技官网寒武纪官网国盛证券研究所基于昇腾910和310AI处理器昇腾计算产业在硬件方面坚持硬件开放策略通过自有硬件和合作硬件相结合的方式为客户提供多样化选择自有硬件Atlas系列硬件产品基于昇腾处理器和业界主流异构计算部件通过模组板卡小站服务器集群等丰富的产品形态打造面向云边端的全场景AI基础设施方案包括Atlas200Al加速模块Atlas200DKAI开发者套件Atlas300Al加速卡Atlas500智能小站Atlas800Al服务器Atlas900Al集群等产品可广泛用于平安城市智能交通智能医疗智能零售智能金融等领域合作硬件华为将Atlas系列硬件开放给合作伙伴让伙伴基于Atlas系列硬件进行集成和二次开发联合打造有竞争力的产品比如华为可以提供Atlas200Al加速模块合作伙伴集成后形成机器人机器狗输电智能巡检方案等AI系统华为也可以提供Atlas300AI加速卡合作伙伴可以集成后形成AI服务器华为也可以通过OEMODM的方式使能伙伴开发自有品牌的服务器整机P7请仔细阅读本报告末页声明2023年10月17日图表6昇腾计算AI基础设施图表7昇腾AI基础软硬件平台架构资料来源华为官网国盛证券研究所资料来源华为昇腾AI基础软硬件彩页国盛证券研究所1模组和板卡昇腾计算提供模组板卡两种类型其中板卡根据使用场景分为推理卡及训练卡Atlas200Al加速模块型号3000集成了昇腾推理处理器半张信用卡大小即可提供22TOPSINT8算力可以在端侧实现人脸识别图像分类等广泛用于智能摄像机机器人无人机等端侧AI场景Atlas300I推理卡型号30003010基于昇腾推理处理器单卡算力可达88TOPSINT8目前可支持80路高清视频实时分析是业界水平的2倍可广泛应用于智慧城市智慧交通智慧金融等场景Atlas300T训练卡型号9000基于昇腾训练处理器配合服务器为数据中心提供强劲算力的训练卡单卡可提供320TFLOPSFP16算力加快深度学习训练进程具有高计算密度大内存高带宽等优点适用于通用服务器满足运营商互联网金融等需要AI训练以及高性能计算领域的算力需求图表8华为Atlas200AI加速模块型号3000图表9华为Atlas300T训练卡型号9000资料来源华为官网国盛证券研究所资料来源华为官网国盛证券研究所P8请仔细阅读本报告末页声明2023年10月17日图表10华为昇腾计算模块与板卡技术规格Atlas200AI加速模块Atlas300推理卡Atlas300T训练卡型号3000型号3000型号9000AI芯片昇腾310昇腾310昇腾91022TOPSINT8280TFLOPSFP16ProAI算力16TOPSINT888TOPSINT8220TFLOPSFP168TOPSINT8PCIePCIe4Gen30PCIex16Gen30PCIex16Gen40典型功耗4GB55W8GB8W最大67W最大300W资料来源华为官网国盛证券研究所2智能小站昇腾计算产业为客户和伙伴提供了基于昇腾推理处理器的智能小站Atlas500具有超强计算性能体积小环境适应性强易于维护和支持云边协同等特点可以在边缘环境广泛部署满足在安防交通社区园区商场超市等复杂环境区域的应用需求图表11华为Atlas500智能小站技术规格Atlas500智能小站型号3000AI芯片昇腾310AI算力2216TOPSINT8内存规格LPDDR4X8GB4GB最大512GBs编解码能力支持H264硬件解码16路1080P30FPS等网络2个GERJ45接口其他IO1个HDMI接口1对35mm立体声输入输出接口2个外部和1个内部USB20接口Type-A典型功耗无盘配置25W有盘配置40W环境条件无盘配置-4070有盘配置-4060结构尺寸无盘配置45mm235mm220mm有盘配置45mm355mm220mm资料来源华为官网国盛证券研究所图表12华为Atlas500智能小站型号3000图表13华为Atlas500智能小站产品特性资料来源华为官网国盛证券研究所资料来源华为官网国盛证券研究所3服务器昇腾计算提供了Atlas800系列服务器和Atlas500Pro服务器P9请仔细阅读本报告末页声明2023年10月17日Atlas800推理服务器型号30003010基于昇腾推理处理器和鲲鹏Intel处理器平台集AI推理存储和网络于一体可以容纳最大8张AI推理卡提供最大704TOPSINT8推理性能可用于视频分析OCR精准营销医疗影像分析等推理服务Atlas800训练服务器型号90009010基于昇腾训练处理器和鲲鹏或Intel处理器平台集成8颗昇腾训练处理器提供224PFLOPSFP16高算力可广泛应用于深度学习模型开发和训练适用于智慧城市智慧医疗天文探索石油勘探等需要大算力的行业领域Atlas500Pro智能边缘服务器型号3000面向边缘应用基于昇腾推理处理器和鲲鹏处理器平台集AI推理存储和网络于一体可以容纳最大4张AI推理卡提供352TOPSINT8高Al推理性能拥有475mm的短机箱支持600mm的短机柜可以在边缘场景中广泛部署图表14华为Atlas800推理服务器型号3000图表15华为Atlas800训练服务器型号9000资料来源华为官网国盛证券研究所资料来源华为官网国盛证券研究所图表16华为推理训练边缘服务器技术规格Atlas800推理服务器Atlas800训练服务器Atlas500Pro智能边缘服务器型号3000型号9000型号3000形态2UAI服务器4UAI服务器2UAI服务器CPU2鲲鹏9204鲲鹏9201鲲鹏920最多32个DDR4内存插槽支持RDIMM32个DDR4内存插槽最高4个DDR4内存插槽最高CPU内存内存速率最高3200MTs3200MTs3200MTs单根内存条容量支持16GB32GB64GBAI处理器8昇腾910AI加速卡最大支持8个Atlas300I推理卡最大支持4个Atlas300IAI推理HBM32GB1228GBs224PFLOPSFP16AI算力最大704TOPSINT8最大352TOPSINT8176PFLOPSFP16资料来源华为官网国盛证券研究所4集群Atlas900Al集群由上万颗昇腾训练处理器构成通过华为集群通信库和作业调度平台整合HCCSPCIe40和100GRoCE三种高速接口充分释放昇腾训练处理器的强大性能其总算力达到256P1024PFLOPSFP16相当于50万台高性能PC的计算能力可以让研究人员更快的进行图像语音的AI模型训练让人类更高效的探索宇宙奥秘预测天气勘探石油加速自动驾驶的商用进程P10请仔细阅读本报告末页声明2023年10月17日图表17华为Atlas900AI集群型号9000图表18华为Atlas900AI集群产品特性资料来源华为官网国盛证券研究所资料来源华为官网国盛证券研究所2023年7月6日的昇腾人工智能产业高峰论坛上华为宣布昇腾AI集群全面升级集群规模从最初的4000卡集群扩展至16000卡是业界首个万卡AI集群拥有更快的训练速度和30天以上的稳定训练周期十倍领先业界图表19华为万卡AI集群资料来源昇腾人工智能产业高峰论坛2023国盛证券研究所P11请仔细阅读本报告末页声明2023年10月17日二算力为基乘风而行21华为盘古等AI大模型落地算力需求高涨ChatGPT等大模型的出现使得人工智能的发展进一步加速世界各国正在进入百模千态时代人工智能与千行万业的深度融合成为热点与焦点加速行业智能化成为未来人工智能发展的主旋律华为于2021年4月正式对外发布华为云盘古大模型盘古大模型达到千亿级参数相对于以前的作坊式开发AI工业化开发效率可以大幅提升同时AI模型具备更佳的性能盘古大模型分为三层L0基础大模型L1行业大模型L2场景大模型图表20华为盘古大模型结构图资料来源华为加速行业智能化白皮书国盛证券研究所L0层是盘古的基础大模型包括自然语言大模型NLP视觉大模型CV多模态大模型预测大模型科学计算大模型提供了满足行业场景的多种技能盘古NLP大模型业界首个超千亿参数的中文预训练大模型它利用大数据预训练对多源丰富知识相结合并通过持续学习吸收海量文本数据不断提升模型的效果在实现行业知识检索回答文案生成阅读理解等基础功能的同时具备代码生成插件调用模型调用等高阶特性在智能客服创意营销会议助手代码助手企业信息搜索等多个典型场景提供AI技术支撑P12请仔细阅读本报告末页声明2023年10月17日图表21盘古NLP大模型应用场景与功能优势基于政企知识进行模型训练通过对话交互精准获取用户需求的信息提高知识获取效政企知识检索率智能创意营销轻松完成多种风格类型的写作提供创意的商业文案帮助产品吸引更多的潜在客户应用场景基于业务编程需求生成补全CJavapytho等编程语言及各种编程语言的转换行业研发助手帮助程序员大幅提升研发效率政企会议助手根据流水账改写成标准会议议程基于会议内容生成文本摘要等行业API助手轻松集成和调用接口打通应用的最后一公里提升整个业务系统的性能和效率通过对中文词汇语法语义等特征的深度分析持续优化基础模型打造业界最强中文海量数据集理解生成能力采用文本代码融合训练的方式不仅需要从文本中提取信息还需要理解代码的语义和推理能力优逻辑及与文本之间的关系提升思维链推理能力功能优势不同任务间具备强大的迁移能力它所掌握的知识和技能可以轻松地转移到其他相关任务多任务促进中帮助模型更快地学习新任务循环促进优化多模型调优在不同领域任务中分别使用小模型进行特定领域的训练和优化提高使用效率和准确性LLM成为连接应用生态的中枢支持如知识图谱搜索符号引擎等补足机制性缺陷多插件补齐提高盘古NLP大模型整体性能全场景覆盖支持行业知识问答文案创作等多项能力覆盖政务金融电商能源等领域资料来源华为云官网国盛证券研究所盘古CV大模型基于海量图像视频数据和盘古独特技术构筑的视觉基础模型赋能行业客户利用少量场景数据对模型微调即可实现特定场景任务图表22盘古CV大模型功能介绍基础模型支持图像分类物体检测姿态估计等近10种微调任务覆盖大部分视觉感知场景功能介绍万物检测可根据提示对图片中的目标进行检测解决场景碎片化问题无需提供训练数据万物分割可根据提示对图片中的目标进行分割常在辅助标注AIGC等场景应用工业生产汇聚行业数据使用基础模型构建行业大模型解决场景碎片化问题应用场景设备巡检解决设备巡检场景训练样本少故障种类多目标尺度差异大等挑战智慧城市利用万物检测万物分割满足智慧城市海量长尾需求通过语言交互方式高效发现城市事件小样本结合数据检索及数据增广技术相对传统训练方式数据需求减少80以上功能优势高精度受益于更好的语义对齐效果在小样本学习上表现优异显著超越对比方法高效率利用行业模型高效表征及数据筛选能力数据处理效率提升5倍以上资料来源华为云官网国盛证券研究所盘古多模态大模型融合语言和视觉跨模态信息实现图像生成图像理解3D生成和视频生成等应用面向产业智能化转型提供跨模态能力底座P13请仔细阅读本报告末页声明2023年10月17日图表23盘古多模态大模型应用场景资料来源华为云官网国盛证券研究所图表24盘古多模态大模型功能介绍与优势图像生成利用大数据和深度学习将灵感转化为高质量图片重塑视觉艺术形态图像理解深度解构图像色彩形状和纹理等解读图像中隐藏的意义和情感功能介绍3D生成快速构建三维模型打破平面的束缚开创立体的视界视频生成加速视频创作丰富感官体验让创意动起来原生支持中文亿级中文图文百万中文关键词更佳中文理解能力精准语义理解精准图文描述对齐语义理解智能语境识别更具自然美感多模态多尺度训练逼近自然美感生成内容功能优势更强泛化性强大泛化能力适应各种复杂的应用场景和用户需求全栈自主可控全栈自主可控基于昇腾云服务技术完全自主可控支持二次训练支持行业客户二次训练专属模型打造大模型体验资料来源华为云官网国盛证券研究所盘古预测大模型面向结构化数据基于神经网络Transformer架构通过任务理解模型推荐模型融合技术构建通用的预测能力典型客户案例包括山东能源集团基于盘古预测大模型技术对生产数据的分析建立洗选煤厂重介智能密控模型实现重介分选工艺在密度控制方面的智能预测和精准控制以及兴盛优选利用盘古预测大模型支撑不同门店多种商品销量实时预测图表25盘古预测大模型产品功能资料来源华为云官网国盛证券研究所P14请仔细阅读本报告末页声明2023年10月17日图表26盘古预测大模型应用场景与产品优势工艺指标预测工业生产过程工艺指标的预测例如水泥回转窑质量预测煤矿洗选煤精煤灰分预测应用结合历史销量商品信息时间特征等进行商品级别的销量预测支持不同门店多种商场景销售预测品的销量实时预测财务异常预测根据企业的财务数据和相关信息进行分析挖掘潜在的财务风险通过对数据元特征进行建模得到更准确和全面的数据信息进一步优化解决方案提高基于数据元特征的任务理解模型能力产品基于下游任务数据集的元特征可通过预训练的搜索推荐模型得到更适配的预处理方式优势自适应基模型搜索推荐和基模型集合通过动态图对选择的基模型输出结果进行融合得到基模型的最佳融合方式进一步提升动态图驱动的模型融合任务性能资料来源华为云官网国盛证券研究所盘古科学计算大模型面向气象医药水务机械航天航空等领域融合AI数据建模和AI方程求解的方法更快更准的解决科学计算问题典型客户案例包括旺山旺水基于盘古药物分子大模型的中枢系统创新药研发微芯生物的肿瘤领域新药研发以及西交大第一附属医院的抗菌药研发图表27华为云盘古气象大模型研究成果在Nature正刊发表图表28华为盘古医学大模型部分功能资料来源华为云官网国盛证券研究所资料来源盘古医学大模型官网国盛证券研究所图表29华为科学计算大模型产品功能首个精度超过传统数值预报方法的AI方法1小时-7天预测精度均高于传统数值方法欧洲气盘古气象大模型象中心的operationalIFS预测包括位势湿度风速温度等水平空间分辨率达到025X025时间分辨率为1小时覆盖13层垂直高度可以精准地预测细粒度气象特征赋能药物研发的全链条任务旨在帮助医药企业机构显著提升药物研发的效率囊括了大规模药盘古药物分子大模型物虚拟筛选分子动力学模拟等传统CADD药物研发软件基于AIDD的蛋白质结构预测分子属性预测等服务助力新靶标药物的发现让医药公司搭乘AI辅助药物研发的快车资料来源华为云官网国盛证券研究所L1层是行业大模型既可以提供使用行业公开数据训练的行业通用大模型包括政务金融制造矿山气象等也可以基于行业用户的自有数据在盘古的L0和L1上为用户训练自己的专有大模型L2层是为企业提供更多细化场景的模型更加专注于某个具体的应用场景或特定业务为用户提供开箱即用的模型服务大模型发展下算力需求有望迎来快速增长仅考虑大模型训练成本根据Oneflow的P15请仔细阅读本报告末页声明2023年10月17日估算GPT-3单次训练成本约为140万美元对于一些更大的LLM模型训练成本单次约达到1120万美元依据如下1基于参数数量和token数量根据OneFlow估算GPT-3训练一次的成本约为1398万美元每个token的训练成本通常约为6N而推理成本约为2N其中N是LLM的参数数量假设在训练过程中模型的FLOPS利用率为462与在TPUv4芯片上进行训练的PaLM模型拥有5400亿参数一致图表30GPT-3训练成本估算资料来源OneFlow国盛证券研究所2对于一些更大的LLM模型如拥有2800亿参数的Gopher和拥有5400亿参数的PaLM采用同样的计算公式可得出训练成本介于200万美元至1200万美元之间图表31预估LLM在GCPTPUv4芯片上的训练成本PaLMGPT-3GopherMT-NLGGoogleOpenAIGoogleDeepMindMicrosoftNvidiaResearchModelParameters175B280B530B540BFLOPsTokenModelParameter6TPUsMachine4PeakFLOPSTPU275TFLOPSUtilization4620CostMachineHour1-yearreserved812SecondsHour3600TrainingCost1000Tokens00047000750014100144TrainTokens300B300B270B780BTrainingCost13980722236915381074411216529资料来源OneFlow国盛证券研究所22华为智车再迎突破自动驾驶算力有望持续激增2023年9月12日AITO问界新M7系列正式亮相在智能驾驶智能座舱等带来全新体验1问界新M7搭载HUAWEIADS20高阶智能驾驶系统率先实现不依赖于高精地图的高速城区高阶智能驾驶HUAWEIADS20高阶智能驾驶系统在融合感知BEVBirdEyeView鸟瞰图网络识别白名单障碍物如车人等物体基础上升级GOD网络20拥有强大识别及处理能力通用障碍物识别率达99无需依赖在训练P16请仔细阅读本报告末页声明2023年10月17日过程的数据标注2问界新M7智驾版配备1个激光雷达3个毫米波雷达11个高清视觉感知摄像头及12个超声波雷达实现动静态目标含不规则物体的全场景和全天候感知预计在2023年12月城区智驾领航辅助可实现全国都能开越开越好开图表32HUAWEIADS20可实现无图高阶智能驾驶资料来源环球网国盛证券研究所HUAWEIADS20已于2023年4月首发经5个月迭代能力实现升级2023年4月首发多款车型搭载2023上海国际汽车工业展览会即将盛大开启华为于车展前夕首发HUAWEIADS20除问界M7HUAWEIADS20也在AITO问界M5华为高阶智能驾驶版首发阿维塔11极狐阿尔法SHI版也有搭载图表33HUAWEIADS20核心优势图表34HUAWEIADS20搭载车型资料来源华为智能汽车解决方案公众号国盛证券研究所资料来源华为智能汽车解决方案公众号国盛证券研究所持续迭代老练程度不断提升自2023年4月发布以来HUAWEIADS20在AI训练集群上构建了丰富的场景库每天深度学习超过1000万km持续优化迭代智能驾驶算法和场景策略截至2023年9月数据长距离NCA领航MPIMilesPerIntervention高达200km城市高架汇入汇出成功率高达99国内乘用车自动驾驶正由L2向L3过渡根据36氪研究院报告得益于硬件平台和软件算法逐步成熟新车搭载L2功能正在逐渐成为前装标配据统计2022年我国在售新车L2和L3的渗透率分别为35和9预计2023年将达到51和20与此同时限定场景下商用车自动驾驶有望率先进入商业化阶段原因在于1商用车价格敏感度更低B端付费意愿更高2场景交通复杂程度较低及政策鼓励与放开等P17请仔细阅读本报告末页声明2023年10月17日图表352022-2023年中国在售新车自动驾驶搭载率预测20222023E065105043503242002119110120L1L2L3L4资料来源共研产业研究院36氪研究院国盛证券研究所自动驾驶等级提升将同步提升算力需求自动驾驶芯片一方面需要满足更高的安全等级同时随着自动驾驶级别的提升需要更高的算力支持根据前瞻产业研究院的报告目前L2级别的自动驾驶汽车需要10TOPS左右的算力L3级别自动驾驶需100TOPS左右算力而到L4级别后自动驾驶汽车芯片算力需求将大幅度提升至1000TOPS以上华为MDC平台赋能多级别自动驾驶场景为目前已经量产最大算力最全系列的智能驾驶计算平台华为可提供MDC智能驾驶计算平台主要包括基于昇腾SoC的硬件智能驾驶操作系统AOS和车控操作系统VOS及AutoSAR中间件支持合作伙伴开发智能驾驶软件华为MDC采用统一硬件架构一套平台软件系列化产品的产品研发规划是业内已经量产最大算力最全系列的专业智能驾驶计算平台图表36华为智能驾驶平台产品体系图表37华为自动驾驶云服务Octopus资料来源华为智能汽车解决方案公众号资料来源华为智能汽车解决方案公众号国盛证券研究所国盛证券研究所华为自动驾驶云服务Octopus与智能驾驶计算平台MDC智能驾驶OS一起发挥华为云AI优势共同组成车云协同的MDC智能驾驶平台平台可提供华为自研昇腾910AI芯片和MindSporeAI框架能大幅提升训练效率在典型的ResNet50网络的训练中与现有友商的目前行业主流训练GPU相比显示出接近2倍的训练速度提升同时也支持业界主流的深度学习框架如TensorFlow和PyTorch此外在超强算力加持下自动数据挖掘功能结合预置丰富场景生成规则还将为仿真提供更多有意义的场景如接管前车插入和数据丢帧P18请仔细阅读本报告末页声明2023年10月17日图表38八爪鱼平台在典型ResNet50网络训练优于主流训练GPU资料来源华为智能汽车解决方案公众号国盛证券研究所23算力基建推进华为AI集群落地各地智算中心多地紧抓人工智能基础设施建设随着算力需求高涨多地政府都将人工智能基础设施建设作为城市人工智能产业发展的重要抓手为人工智能共性技术突破中小企业良好有序发展提供基础保障近年通过支持各地AI集群中心和华为云中心的建设华为积累了丰富的集群交付和部署经验已经累计部署超千柜昇腾AI集群是AI集群部署数量最多的厂商图表39昇腾AI集群部署城市人工智能计算中心资料来源昇腾人工智能产业高峰论坛2023国盛证券研究所截止2023年7月6日昇腾AI集群已支撑全国25个城市的人工智能计算中心建设其中15个城市已经正式上线6个城市已经进行了至少一次扩容武汉西安成都大连北京等7个城市公共算力平台入选首批国家新一代人工智能公共算力开放创新平台武汉人工智能计算中心基于昇腾AI基础软硬件建设于2021年5月31日正式竣工并投入运营上线即算力资源满负荷使用于2022年2月7日完成首次扩容总算力达200P并再次饱和运营目前基于武汉人工智能计算中心孵化了全球全球首个三模态大模型一一紫东太初全球首个遥感影像智能解译专用框架武P19请仔细阅读本报告末页声明2023年10月17日汉LuoJiaNet业界最大遥感影像样本数据集武汉LuoJiaSet并成立多模态人工智能产业联盟和智能遥感开源生态联盟为武汉孵化数百亿级智能遥感和多模态产业大于300亿2023年9月30日武汉人工智能计算中心顺利完成三期扩容算力总和达到400P西安人工智能计算中心西北首个大规模人工智能算力集群于2021年5月正式启动建设同年9月9日正式上线运营一期包含AI算力300PHPC算力8P截至2022年底西安未来人工智能计算中心已与170多家企业合作孵化了150多个场景化解决方案涵盖遥感语音文旅等方向图表40武汉人工智能计算中心图表41西安人工智能计算中心资料来源昇腾官网国盛证券研究所资料来源昇腾官网国盛证券研究所中原人工智能计算中心河南首家全国继深圳和武汉之后第三家建成并投用的人工智能算力中心基于黄河鲍鹏昇腾技术底座是中原地区人工智能产业的重大算力支持基础设施项目总投资10亿元占地约14亩建筑面约2400平方米于2021年10月21日正式上线一期建设规模为100PAI算力相当于每秒十亿亿次的计算速度未来将达到300PAI的计算能力截止到2022年底该中心服务中原企业客户60余家高校学院客户30余家科研单位10余家同时还有省外活跃客户百余家平均算力使用率在90左右南京人工智能计算中心基于南京市委市政府的产业规划以及华为与江北新区共建昇腾产业的合作协议南京人工智能计算中心于2022年5月完成基础平台建设一期规划40P每秒计算4万万亿次算力上线即接近饱和当前平均算力使用率在95以上截止到2022年12月算力中心的应用已初具规模已与200多家合作伙伴推出超过150多个人工智能解决方案图表42中原人工智能计算中心图表43南京人工智能计算中心资料来源昇腾官网国盛证券研究所资料来源昇腾官网国盛证券研究所此外昇腾AI集群的成功案例还包括300P算力平均算力利用率85以上的成都智算中心二期扩容后总规模140P算力的杭州人工智能计算中心总规划400P的沈阳人工智能计算中心总规划300P人工智能训练算力的天津人工智能计算中心算力规模400PP20请仔细阅读本报告末页声明
|
相关行业报告
|
||||||||||||||||||||||||||
