华为正通过从大模型设计到基础设施的软硬协同，探索构建其全栈AI竞争力的路径。华为AI发展策略已逐渐从追赶并对标业界SOTA模型，转向为更好地发挥自研昇腾硬件潜力而量身定做模型架构。这一双向协同进化路径，旨在解决AI模型规模化应用中的系统性问题，并构建一个由软硬件协同架构、算子与软件栈构成的全栈技术体系。
　　盘古大模型的演进，其核心是为解决大规模分布式系统中的效率难题。随着大语言模型从稠密架构全面转向混合专家（MoE）稀疏架构，业界普遍面临专家负载不均衡这一系统性瓶颈，它制约了MoE模型在训练和推理中的实际性能。华为将此系统性问题作为其软硬架构创新的核心方向，标志着其关注点已从单纯硬件或单纯AI算法问题，拓展至在自研硬件上更高效解决AI系统工程问题。
　　华为在大模型层面并行推出了两种创新路径。一方面，Pangu Pro MoE通过架构破局，提出分组专家混合（MoGE）架构，旨在通过结构性设计解决负载不均衡问题。另一方面，Pangu Ultra MoE则通过系统级优化，以仿真先行的设计方法来优化模型架构从而更好的适配昇腾硬件，并通过贯穿训练和推理的协同优化，以充分发挥硬件潜力。
　　这一软件、硬件协同创新的物理基础，是新一代AI基础设施CloudMatrix。其核心技术之一是统一总线（UB）网络，通过构建统一寻址的分布式高速内存池，在工程上降低了跨节点通信的性能差异。这一硬件层面的发展，不仅为上层PDC（Prefill-Decode-Caching）分离架构等软件创新提供了物理前提，也使其能通过大规模专家并行（LEP）和AIV-Direct等算子级优化，利用硬件有效承载通信开销，换取软件层面的高并行与低延迟。
　　风险提示：1）大语言模型的技术进展不及预期。2）人工智能行业竞争格局变化带来的不确定性。3）硬件、算法或功能优化不及预期。