研报下载就选股票报告网
您好,欢迎来到股票分析报告网!登录   忘记密码   注册
>> 华西证券-AIGC行业深度报告(11),华为算力分拆:全球AI算力的第二极-231009
上传日期:   2023/10/11 大小:   5703KB
格式:   pdf  共53页 来源:   华西证券
评级:   -- 作者:   刘泽晶
下载权限:   无限制-登录即可下载
全面对标英伟达,华为开启国产自主可控新征程。我们认为英伟达作为全球AI算力芯片龙头坐拥三大法宝,分别是高性能芯片、其中IC设计是重点,CUDA架构、助力AI加速计算生态,Nvlink、NVSwitch助力芯片快速互联互通与InfiniBand配合组网技术实现高效互联互通;而华为作为国产计算之光全面对标英伟达,在算力方面,昇腾910芯片单卡算力已经可以与英伟达A100相媲美;统一达芬奇架构助力AI计算引擎;HCCS互联技术,实现卡间高速互联。
  华为构筑世界AI算力第二选择:全连接大会上,华为发布多款AI产品,为世界AI算力第二选择。华为Atlas 900 SuperCluster、全新的华为星河AI智算交换机亮相,打开国产算力集群想象空间,同时发布“三力四总线”,打造智能世界数字基础大设施,此外发布星河AI网络解决方案,以高运力释放AI时代的高算力;软件方面,华为携手基础软硬件创新,开启国产AI生态;华为鲲鹏、昇腾、AI助力国产千行百业数字化升级,包括金融、智能制造、工业、教育、医疗等方面。
  为领衔演绎国产AI计算产业崛起:我们认为华为AI计算产业的核心在于芯片的自主可控,其中以鲲鹏和昇腾为主导的海思芯片尤为重要,因此与之相关的国产集成电路产业突围尤为重要,其中重中之重是EDA、光刻、代工产业;AI与信创双轮驱动,国产服务器需求火爆,AI服务器中的主要元器件包括CPU、GPU板组、内存、硬盘、网络接口卡组成,配合电源、主板、机箱、散热系统等基础硬件以提供信息服务,计算服务器基础硬件供应商和华为生态伙伴也将迎来发展机遇;算力组网方面,华为有望带动相关产品快速放量,其中包括国产AI服务器、交换机、光模块等产品,此外,在算网的趋势下,网络可视化将迎来黄金发展周期。
  投资建议:受益标的:EDA:华大九天、概伦电子、广立微等;光刻:福晶科技、奥普光电、苏大维格、美埃科技、腾景科技等;PCB:沪电股份、胜宏科技等;内存接口:澜起科技、聚辰股份等;连接器:华丰科技、鼎通科技等;BIOS:卓易信息等;电源:杰华特、欧陆通、中国长城等;服务器:拓维信息、神州数码、天源迪科、四川长虹、高新发展等;光模块:天孚通信,剑桥科技、太辰光、中际旭创等;网络可视化:恒为科技、浩瀚深度、中新赛克等;操作系统:润和软件、测绘股份、中国软件、麒麟信安、诚迈科技等;技术开发:软通动力、常山北明等;传统应用:海量数据、超图软件、赛意信息等;AI应用:润达医疗、云鼎科技、梅安森、万达信息、龙软科技、金山办公、梦网科技等。
  风险提示:核心技术水平升级不及预期的风险、AI伦理风险、政策推进不及预期的风险、中美贸易摩擦升级的风险。
研究报告全文:仅供机构投资者使用证券研究报告行业深度研究报告华为算力分拆全球AI算力的第二极AIGC行业深度报告11华西计算机团队2023年10月9日分析师刘泽晶SACNOS1120520020002邮箱liuzj1hx168comcn请仔细阅读在本报告尾部的重要法律声明核心逻辑全面对标英伟达华为开启国产自主可控新征程我们认为英伟达作为全球AI算力芯片龙头坐拥三大法宝分别是高性能芯片其中IC设计是重点CUDA架构助力AI加速计算生态NvlinkNVSwitch助力芯片快速互联互通与InfiniBand配合组网技术实现高效互联互通而华为作为国产计算之光全面对标英伟达在算力方面昇腾910芯片单卡算力已经可以与英伟达A100相媲美统一达芬奇架构助力AI计算引擎HCCS互联技术实现卡间高速互联华为构筑世界AI算力第二选择全连接大会上华为发布多款AI产品为世界AI算力第二选择华为Atlas900SuperCluster全新的华为星河AI智算交换机亮相打开国产算力集群想象空间同时发布三力四总线打造智能世界数字基础大设施此外发布星河AI网络解决方案以高运力释放AI时代的高算力软件方面华为携手基础软硬件创新开启国产AI生态华为鲲鹏昇腾AI助力国产千行百业数字化升级包括金融智能制造工业教育医疗等方面为领衔演绎国产AI计算产业崛起我们认为华为AI计算产业的核心在于芯片的自主可控其中以鲲鹏和昇腾为主导的海思芯片尤为重要因此与之相关的国产集成电路产业突围尤为重要其中重中之重是EDA光刻代工产业AI与信创双轮驱动国产服务器需求火爆AI服务器中的主要元器件包括CPUGPU板组内存硬盘网络接口卡组成配合电源主板机箱散热系统等基础硬件以提供信息服务计算服务器基础硬件供应商和华为生态伙伴也将迎来发展机遇算力组网方面华为有望带动相关产品快速放量其中包括国产AI服务器交换机光模块等产品此外在算网的趋势下网络可视化将迎来黄金发展周期投资建议受益标的EDA华大九天概伦电子广立微等光刻福晶科技奥普光电苏大维格美埃科技腾景科技等PCB沪电股份胜宏科技等内存接口澜起科技聚辰股份等连接器华丰科技鼎通科技等BIOS卓易信息等电源杰华特欧陆通中国长城等服务器拓维信息神州数码天源迪科四川长虹高新发展等光模块天孚通信剑桥科技太辰光中际旭创等网络可视化恒为科技浩瀚深度中新赛克等操作系统润和软件测绘股份中国软件麒麟信安诚迈科技等技术开发软通动力常山北明等传统应用海量数据超图软件赛意信息等AI应用润达医疗云鼎科技梅安森万达信息龙软科技金山办公梦网科技等风险提示核心技术水平升级不及预期的风险AI伦理风险政策推进不及预期的风险中美贸易摩擦升级的风险2目录01全面对标英伟达开启国产自主可控新征程02华为领衔演绎国产AI计算产业崛起03投资建议梳理AIGC相关受益厂商04风险提示301全面对标英伟达开启国产自主可控新征程411全球龙头英伟达业绩持续高度景气印证全球AI产业趋势英伟达二季度业绩持续超预期印证AI景气度美东时间8月23日英伟达公布2024财年第二财季季报二季度营收13507亿美元同比增长101远超市场预期的指引区间1078亿到1122亿美元相较于华尔街预期水平高22-29以上业绩指引方面英伟达预计本季度即2024财年第三财季营业收入为160亿美元正负浮动2相当于指引范围在1568亿到1632亿美元之间以160亿美元计算英伟达预期三季度营收将同比增长170连续两个季度翻倍增长高于市场预期AI芯片所在业务同环比均翻倍激增较市场预期高近30游戏业务同比重回增长AI对英伟达业绩的贡献突出包括AI显卡在内的英伟达核心业务数据中心同样收入翻倍激增二季度数据中心营业收入为1032亿美元同比增长171环比增长141二季度游戏营收249亿美元同比增长22环比增长11英伟达称数据中心收入主要来自云服务商和大型消费类互联网公司基于Hopper和Ampere架构GPU的英伟达HGX平台之所以强劲需求主要源于开发生成式AI和大语言模型的推动产品实现云边端全面布局云端边缘计算终端GPU加速云计算在云端完Jetson嵌入式系统Orin系列游戏驱动器ReflexG-SYNC显示器成计算Xavier系列TX2系列Nano在可视化虚拟工作站NVIDIARTXDI光OmniverseCloud自部署云数据源或数据源附近完成计算线追踪等容器托管服务智能驾驶舱内智能服务软件地图软件辅助驾驶平台等资料来源techpowerupBloomberg英伟达官网英伟达2023财年年报新浪华西证券研究所5121英伟达三大AI法宝高性能芯片其中IC设计是重点全球高端GPU领导者经数十代产品迭代技术指标全面升级从2011年英伟达推出TeslaM2090数据中心GPU到2022年H100L40等型号产品多项核心技术指标大幅提升其中CUDA作为GPU内部主要的计算单元从512个升级到超14000个芯片工艺尺寸也从40nm降至4nm单精度浮点算力从1332GFLOPS增至超50TFLOPSGPU产品性能整体大幅跃升推出Grace系列加速大型AIHPC云和超大规模工作负载2022年公司发布首款CPU产品Grace用于高性能计算和云计算GraceCPU超级芯片采用NVLink-C2C技术可提供144个ArmNeoverseV2核心和1TBs的内存带宽每瓦性能是当今领先CPU的2倍此外公司还推出的GraceHopper超级芯片将Grace和Hopper架构相结合为加速AI和高性能计算HPC应用提供CPUGPU相结合的一致内存模型2023年英伟达发布多款AI超算产品助力全球生态其中包括DGX服务器DGXGH200AI超级计算机AIfoundations云服务等产品其中DGXGHAI超级计算机由NVIDIAGH200GraceHopper超级芯片和NVIDIANVLinkSwitchSystem驱动相比上一代将NVLink带宽提升了48倍以上英伟达部分数据中心GPU产品及参数英伟达DGXGH200AI超级计算机资料来源techpowerupBloomberg英伟达官网英伟达2023财年年报华西证券研究所6122英伟达三大AI法宝CUDA架构助力AI加速计算生态GPU适用于处理大数据集CUDA核是本质原因最开始GPU图形处理单元作为一种专用计算机处理器可以满足实施高分辨率3D图形计算密集型任务的需求到2012年由于GPU已经发展成为高度并行的多核系统让它具备了处理大量数据的能力简而言之CPU做的专注线性计算GPU做的是并行计算数据之间没有直接关系而本质的原因是CUDA核的不同CUDA核越多计算性能越强而GPU的CUDA核数是CPU的上百倍如AMDEPYC7003系列7763核心数为64个而英伟达A10040GB核心数为6912个CUDA的本质是软件定义硬件实现软件调用硬件CUDA是一种并行计算平台和应用程序编程接口API允许软件使用特定类型的图形处理单元GPU进行通用目的的处理称为通用图形处理单元计算GPGPUCUDA提供了直接访问GPU虚拟指令集和并行计算元素的软件层用于执行计算内核CUDA支持的GPU还可以使用编程框架通过将代码编译为CUDA来使用HIPCUDA将从前多种不同的代码整合成了一气呵成的代码这样极大的加快了开发模型的训练速度可以简单理解CUDA是英伟达实现软硬件适配的一种类编译器将软件的代码转换成硬件汇编代码CUDA是英伟达实现软硬件生态的护城河CUDA处理流程CPU和GPU计算资源差异CUDA处理流程1将数据从驻内存复制到GPU内存2CPU启动GPU计算内核3GPU的CUDA内核并行执行计算4将生成的数据从GPU内存输送到内存资料来源NVIDIA公司官网华西证券研究所7122英伟达三大AI法宝CUDA架构助力AI加速计算生态CUDA助力加速计算及深度学习GPU通过图形应用程序的算法存在算法密集高度并行控制简单分多个阶段执行等特征英伟达引入的CUDA使GPU超越了图形领域同时CUDA的框架和库可以充分发挥GPU的并行计算能力提供高效的矩阵运算卷积运算等计算任务的实现大大简化深度学习的编程工作提高开发效率和代码质量在经GPU加速的应用中工作负载的串行部分在CPU上运行而应用的计算密集型部分则以并行方式在数千个GPU核心上运行能够大幅提升计算效率目前NVIDIAH100GPU的CUDA数已达到14592个远超AMDEPYCGenoa-XCPU的96个核心CUDA生态合作者规模翻倍增长根据英伟达2023财年年报目前有400万名开发者正在与CUDA合作而且规模还在不断扩大英伟达通过12年的时间达到200万名开发者在过去的两年半里该数字翻了一番目前CUDA的下载量已经超过了4000万次CUDA软件架构英伟达CUDA工具包资料来源英伟达2023财年年报知乎ai领域CSDN华西证券研究所8123英伟达三大AI法宝NvlinkNVSwitch助力芯片快速互联互通速度更快可扩展性更强的互连已成为当前的迫切需求AI和高性能计算领域的计算需求不断增长对于能够在每个GPU之间实现无缝高速通信的多节点多GPU系统的需求也在与日俱增要打造功能强大且能够满足业务速度需求的端到端计算平台可扩展的快速互连必不可少简而言之随着模型复杂程度增加单张GPU无法完成训练任务需要联合多张GPU乃至多台服务器搭建集群协同工作并需要GPU之间以及服务器之间进行数据传输交互我们认为数据传输同样也是大模型算力集群能力的重要体现英伟达推出NVLink技术代替传统的PCIe技术第四代NVIDIANVLink技术可为多GPU系统配置提供高于以往15倍的带宽以及增强的可扩展性单个NVIDIAH100TensorCoreGPU支持多达18个NVLink连接总带宽为900GBs是PCIe50带宽的7倍NVIDIADGXH100等服务器可利用这项技术来提高可扩展性进而实现超快速的深度学习训练NVSwitch与Nvlink协同互联助力英伟达高速通信能力构建NVSwitch是一种高速交换机技术可以将多个GPU和CPU直接连接起来形成一个高性能计算系统每个NVSwitch都有64个NVLink端口并配有NVIDIASHARP引擎可用于网络内归约和组播加速NVlink示意图NVlink性能NVlink与NVSwitch性能一览NVLing规格第二代第三代第四代Nvlink300GBs600GBs900GBs每个GPU最大链路数61218NVIDIAVoltaNVIDIAAmpereNVIDIAHopperNVIDIA架构支持架构架构架构NVSwitch规格第一代第二代第三代直连或节点中GPU数最多8个最多8个最多8个量NVSwitchGPU之间带300GBs600GBs900GBs宽聚合总带宽24TBs48TBs72TBsNVIDIAVoltaNVIDIAAmpereNVIDIAHopperNVIDIA架构支持架构架构架构资料来源英伟达官网华西证券研究所9123英伟达三大AI法宝InfiniBand配合组网技术实现高效互联互通2023年5月30日COMPUTEX主题演讲英伟达展示全新的NVIDIASpectrum-X网络平台NVIDIASpectrum-X的核心是Spectrum-4以太网交换机BlueField-3DPULinkX高性能线缆模块和NVIDIA端到端加速软件与传统以太网相比实现了17倍的整体AI性能和效能提升可在多租户环境中提供一致可预测的性能其中Spectrum-4提高了基于以太网AI云的性能与效率与现有以太网的堆栈实现互通单台交换机即可实现突破性的256个200Gbs端口的连接以支持AI云的增长和扩展NVIDIASpectrum-4NVIDIASpectrumSN5000系列交换机是第五代Spectrum以太网交换机专为加速超大规模生成式AI网络而打造SN5000交换机的端口速度高达800Gbs可为每个数据中心提供加速以太网且不会影响性能和功能NVIDIABlueField-3DPU是一个400Gbs基础设施计算平台可对软件定义的网络存储和网络安全进行线速处理BlueField-3DPU将强大的计算能力高速网络和广泛的可编程性相结合为要求严苛的工作负载提供软件定义的硬件加速解决方案我们认为Spectrum-X是新时代组网能力的一种体现用于使用以太网构建多租户超大规模AI云助力客户显著提高AI云的性能和能效并获得更高的可预测性和一致性从而缩短上市时间并提高竞争优势NVIDIASpectrum-X网络平台示意图AI计算集群示意图资料来源英伟达官网GitHub华西证券研究所10131国产芯片之光华为海思鲲鹏CPU鲲鹏包括服务器和PC机芯片芯片端鲲鹏920面向数据中心主打低功耗强性能鲲鹏处理器是华为自主研发的基于ARM架构的企业级系列处理器产品包含算存传管智五个产品系统体系规格方面鲲鹏920可以支持64个内核主频可达26GHz集成8通道DDR4集成100GRoCE以太网卡与此同时鲲鹏920支持PCIe40及CCIX接口可提供640Gbps总带宽根据华为云官微华为表示鲲鹏920大部分性能提升来自优化的分支预测算法和增加的OP单元数量以及改进的内存子系统架构服务器端打造TaiShan服务器实现高效能计算华为还推出基于鲲鹏920的三款ARMTaiShan200服务器新服务器专为高性能高效率场景而设计主要应用于大数据分布式存储ARM原生应用等场景构建自主生态打造国产算力目前华为正基于硬件开放软件开源使能伙伴发展人才的策略推动鲲鹏计算产业的发展鲲鹏芯片产品体系演进鲲鹏全栈开放使能全产业伙伴创新资料来源鲲鹏计算产业白皮书鲲鹏官网慧博华西证券研究所11132国产芯片之光华为海思昇腾AI芯片全栈全场景AI芯片构建智能计算架构核心昇腾910和昇腾310两款AI芯片均使用华为的达芬奇架构每个AI核心可以在1个周期内完成4096次MAC计算集成了张量矢量标量等多种运算单元支持多种混合精度计算支持训练及推理两种场景的数据精度运算基于昇腾系列AI处理器和基础软件构建Atlas人工智能计算解决方案包括Atlas系列模块板卡小站服务器集群等丰富的产品形态打造面向端边云的全场景AI基础设施方案覆盖深度学习领域推理和训练全流程可以满足不同场景的大模型计算需求华为的全栈全场景AI解决方案日臻完善主要基于昇腾系列处理器和基础软件构建的全栈AI计算基础设施行业应用及服务包括昇腾系列芯片Atlas系列硬件芯片使能CANN异构计算架构AI计算框架应用使能等算力是衡量单卡性能的直观指标参数方面我们认为昇腾910芯片单卡算力已经可以与英伟达A100相媲美英伟达与华为参数比对昇腾全栈AI软硬件平台构筑智能世界的基石架构算力最大功耗达芬奇架构3D16TOPS8TOPS昇腾3108WCube技术INT8FP16达芬奇架构3D640320昇腾910310WCube技术TOPSINT8TFLOPSFP16英伟达NVIDIA安培GPU624312300WA100架构TOPSINT8TFLOPSFP16英伟达NVIDIAHoppe39581979700WH100GPU架构TOPSINT8TFLOPSFP16资料来源昇腾官网英伟达官网英伟达安培架构白皮书华为云公众号华西证券研究所1214华为昇腾芯片统一达芬奇架构助力AI计算引擎昇腾AI芯片的计算核心主要由AICore构成AICore采用了达芬奇架构它包括了三种基础计算资源矩阵计算单元向量计算单元和标量计算单元这三种计算单元分别对应了张量向量和标量三种常见的计算模式在实际的计算过程中各司其职形成了三条独立的执行流水线在系统软件的统一调度下互相配合达到优化的计算效率AICore中的矩阵计算单元目前可以支持INT8INT4和FP16的计算向量计算单元目前可以支持FP16和FP32的计算我们认为本质上讲昇腾芯片属于专为AI而生的特定域架构芯片存储转换单元MTE是达芬奇架构的特色比如通用GPU要通过矩阵计算来实现卷积首先要通过Im2Col的方法把输入的网络和特征数据重新以一定的格式排列起来通用GPU通过软件实现效率较为低下达芬奇架构采用了一个专用的存储转换单元来完成此过程可以在较短的时间之内完成整个转置过程定制化电路模块的设计可以提升AICore的执行效率从而能够实现不间断的卷积计算基础计算资源矩阵计算单元向量计算单元示意图华为昇腾AI芯片架构图资料来源华为云社区芯语华西证券研究所1315华为HCCS互联技术实现卡间高速互联HCCS是华为自研的高速互联接口实现高效卡间连接HCCS是华为自研的高速互联接口片内RoCE可用于节点间直接互联HCCS是HCCL的硬件形态HCCL提供了深度学习训练场景中服务器间高性能集合通信的功能每台设备具备两个HCCS环共8颗处理器A0A7每个HCCS存在4颗处理器同一HCCS内处理器可做数据交换不同HCCS内处理器不能通信单个AI处理器提供3条HCCS互连链路提供最大90GBs带宽能力NPU载板由4个AI处理器组成3条HCCS组成一个4PFullmesh互联4个AI处理器间互联带宽达到30GBs双向60GBs我们认为AI大算力集群背景下单张AI芯片无法完成训练任务需要联合多张AI芯片数据传输速率同样重要华为HCCS互联技术可以实现卡间高速互联相较于PCIE模式有显著优势能有效帮助服务器集群协同训练从而加速AI的训练HCCS互联拓扑图K0-K3为鲲鹏处理器昇腾AI集群组网要求资料来源昇腾官网华西证券研究所14161华为Atlas900SuperCluster亮相打开国产算力集群想象空间华为发布全新架构AI集群支持超万亿参数大模型训练在华为全联接大会2023上华为推出全新架构的昇腾AI计算集群Atlas900SuperCluster新集群采用了全新的华为星河AI智算交换机CloudEngineXH16800借助其高密的800GE端口能力两层交换网络即可实现2250节点等效于18万张卡超大规模无收敛集群组网华为Atlas900SuperCluster优势显著新集群同时使用了创新的超节点架构大大提升了大模型训练能力实现算力的资源统一调度采用液冷设计此外发挥华为在计算网络等领域的综合优势从器件级节点级集群级和业务级全面提升系统可靠性将大模型训练稳定性从天级提升到月级华为Atlas900SuperCluster示意图华为Atlas900SuperCluster大模型连续训练时长资料来源华为官网搜狐华西证券研究所15162华为发布三力四总线打造智能世界数字基础大设施华为全联接大会2023期间华为董事ICT产品与解决方案总裁杨超斌发表了拥抱AI时代构筑智能世界数字基础大设施的主题演讲杨超斌表示三力四总线方案为行业智能化升级赋能AI集群的大算力大存力大运力加速AI大模型打造多场景AI算力和行业智能总线实现智能无处不在未来人工智能将向两个方面不断迭代发展一方面AI模型的参数变大对于计算存储网络资源需求急剧提升需要构筑具备大算力大存力大运力的AI集群大设施另一方面人工智能面向千行万业走深向实关键是构建多场景AI算力和广域园区工业和微企四大核心行业场景的智能联接总线华为发布大算力大存力大运力解决方案打造领先的AI大模型训练集群算力方面华为通过架构和系统创新构筑面向多场景的大算力平台突破AI大模型训练的算力瓶颈存力方面华为发布领先的AI知识库存储OceanStorA800以创新架构构建高性能数据存储运力方面华为发布业界首款高运力DCN星河AI智算交换机和业界容量最大的超宽全光智能DCI方案以大规模大容量网络运力释放大算力OceanStorDorado示意图华为CloudEngine16800系列数据中心交换机示意图资料来源华为官网搜狐华西证券研究所16163华为发布星河AI网络解决方案打造AI时代最强运力华为发布星河AI网络解决方案以高运力释放AI时代的高算力2023年9月20日华为全联接大会期间华为分享了对以大算力大存力大运力加速AI大模型打造的发展愿景新一代华为星河AI网络解决方案华为数据通信产品线总裁王雷正式发布星河AI网络解决方案为加速行业智能化转型提供强劲引擎华为星河AI网络解决方案打造AI时代最强运力华为星河AI网络优势显著其所具备的超高吞吐网络特质可以面向智算中心的AI集群提供提升网络负载率强化训练效率的重要价值具体来说星河AI网络智算交换机具有业界最高密400GE和800GE端口能力仅2层交换网络就可以实现1万8000卡的无收敛集群组网从而支持超万亿参数的大模型训练星河AI网络可以支持网络级负载均衡NSLB能够将负载率从50提升到98相当于实现AI集群超频运行继而将训练效率提升20达成高效能训练的预期华为星河AI网络解决方案示意图华为星河AI组网特征利用全栈可视运维黑科技基于华为独创的全局负载均实现大模型训练网络路径衡NSLB算法实现算网实时超长高稳流负载实时可视结合协同调度将网络有效吞吐吞可PacketEvent数据面异常感吐从业界的50提升到98大靠知技术和DPFR故障无感自愈模型训练效率提升20技术实现亚毫秒级故障快弹性高并发速收敛基于华为独创的多路径智能调度流感知均衡调优和自适应抗丢包技术实现T级数据小时达转发运力提升8倍资料来源华为官网星河AI网络白皮书华西证券研究所1717算力为底携手基础软硬件创新开启国产AI生态华为全联接大会2023期间华为计算产品线总裁张熙伟发表算力为基共筑AI新生态主题演讲他表示华为将深耕算力底座聚焦鲲鹏昇腾基础软硬件创新携手伙伴与开发者打造开放易用平台使能百模千态共赢数智未来全面开放灵活选择使能大模型创新昇腾提供丰富的融合算子如主流的FlashAttentionFFN等可在昇腾上实现性能倍级提升其次昇腾已全面支持PyTorch飞桨昇思等业界框架同时PyTorch社区也在持续增强对昇腾的支持在加速库与开发套件上除了兼容业界主流的DeepSpeedMegatron外昇腾自主构建了大模型加速库AscendSpeed提供丰富的大模型训练并行能力同时HuggingFace社区最新的TransformersAccelerate等代码仓也已原生支持昇腾模型层面上目前已有50主流的基础大模型基于昇腾训练迭代深度开放使能开发者构筑差异化竞争力算子和加速库是决定大模型训练与推理性能的关键为支撑开发者孵化出更高性能的自定义算子加速库华为新增开放底层运行时开发者可直接使用NPU上的核资源控制流任务调度等接口原生构建差异化竞争力各类接口将于年底前陆续开放在编程上今年5月华为发布的AscendC编程语言简化开发逻辑匹配开发习惯全面开放灵活选择使能大模型创新深度开放使能开发者构筑差异化竞争力资料来源华为计算公众号华西证券研究所1817算力为底携手基础软硬件创新开启国产AI生态ModelZoo20正式发布上线昇腾社区全新升级了原有的ModelZoo在已提供数百个预训练模型的基础上年底前将持续上线40多个昇腾亲和的预训练大模型目前ModelZoo20正式上线昇腾社区大模型超级流水线全流程使能大模型创新落地华为还提供了大模型超级流水线以友好的大模型开发环境和统一的全流程工具链加速大模型的开发迁移与部署一方面昇腾CANN的能力可开放给客户自有的推理引擎帮助客户完成推理部署另一方面华为也提供昇腾推理引擎将模型压缩推理加速和推理执行等能力以统一API接口提供出来方便伙伴开发推理应用鼓励昇腾原生创新加速伙伴商业共赢昇腾围绕科研创新使能计划和大模型促进计划鼓励开发者基于昇腾原生创新打造更具竞争力的场景化解决方案技术创新上华为将每年投入千万资金扶持科研院所推出系列大模型课程赋能高校教学围绕开发者成长路径激发价值创新大模型超级流水线全流程使能大模型创新落地鼓励昇腾原生创新加速伙伴商业共赢资料来源华为计算公众号华西证券研究所1917算力为底携手基础软硬件创新开启国产AI生态以AI赋能openEuler更智能以openEuler使能AI更高效一方面大模型让欧拉更智能面向终端用户Windows12结合AI为大家带来了无限期待面向数字基础设施欧拉作为首个广泛支持AI的开源操作系统华为训练出了EulerCopilot初步实现代码辅助生成问题智能分析系统辅助运维等功能以前需要多领域专家协同解决的问题未来都可以交给EulerCopilot另一方面欧拉使能AI更高效欧拉通过异构资源统一管理与调度实现CPU和XPU的深度融合以更全局更均衡和更精细化的视角统筹内存和算力充分挖掘空闲资源提升有效利用率进而提升AI训练和推理性能鲲鹏全栈升级使能伙伴更卓越加速千行万业智能化华为将持续我们持续升级鲲鹏软硬件平台华为已经发布了天池架构支持伙伴面向千行万业快速推出差异化机型基础软件方面openEuler全场景协同能力持续增强进一步提供负载动态感知等关键能力做到开箱即优同时我们还升级了鲲鹏BoostKit和DevKit2大套件八大主流场景性能持续提升通过四大场景化SDK助力鲲鹏高效原生开发以AI赋能openEuler更智能以openEuler使能AI更高效鲲鹏加速千行万业智能化资料来源华为计算公众号华西证券研究所20
 
Copyright © 2005 - 2021 Nxny.com All Rights Reserved 备案号:蜀ICP备15031742号-1