>> 申万宏源-计算机行业GenAI系列深度之61:超节点,从单卡突破到集群重构-250709
| 上传日期: |
2025/7/9 |
大小: |
2703KB |
| 格式: |
pdf 共34页 |
来源: |
申万宏源 |
| 评级: |
看好 |
作者: |
林起贤,黄忠煌,李国盛 |
| 下载权限: |
此报告为加密报告 |
|
|
超节点:大模型参数爆炸式增长驱动下,算力需求从单点转向系统级整合。Scale-up与Scale-out成为算力扩容的两大维度。全球AI芯片核心玩家英伟达GB200 NVL72、华为CloudMatrix 384等产品的落地,标志着超节点在机柜级互联与跨机柜组网技术上取得突破,单机柜算力密度提升与多机柜全互联架构成为行业竞争焦点。 技术路径上,超节点呈现单柜高密度与多机柜互联的双向扩展,背后是通信协议与工程成本的平衡。英伟达通过NVLink实现72 GPU单机柜全互联,带宽达1800GB/s,聚焦低时延高频交互场景;华为则以两层UBSwitch构建384 NPU跨机柜超节点,通过Clos网络拓扑实现无阻塞通信,节点间带宽衰减低于3%。AMD推出的IF128方案尝试融合以太网技术,打破Scale-up与Scale-out边界,而特斯拉Dojo因2DMesh拓扑局限性进展不及预期,凸显专用生态的落地挑战。 国产超节点方案以华为CloudMatrix 384为代表,实现算力规模突破,打破单卡性能瓶颈。该方案通过UB网络将384个昇腾NPU连接起来,形成1.7倍于英伟达NVL72的算力规模,且内存容量达3.6倍。实测数据显示,其两层UBSwitch架构对性能影响微乎其微,节点间延迟增加低于1μs,在MoE模型推理中通过DecodeEP320策略实现资源高效调度,验证了国产方案在大规模组网中的工程能力。 超节点产业化将重塑算力产业链分工,催生服务器整合、光通信增量及液冷渗透提升等投资机会。芯片厂商纵向整合趋势明显,英伟达、AMD通过并购强化通信与软件能力,国内拟海光信息吸收合并中科曙光,强化软件、液冷等能力;代工环节,光通信领域,华为CloudMatrix推动光模块需求,光模块与GPU需求比可达1:18;IDC产业链中,单机柜功率超120kW推动液冷渗透率提升,模块化布局加速智算中心交付。 市场当前对超节点的认知存在两大预期差:一是低估国产方案在推理场景的性价比优势,华为CM384在Deepseek R1模型推理中,单卡Prefill吞吐达5655 tokens/s,单位TFLOPS效率超英伟达H100方案18%;二是忽视算力网络架构变革对产业链的重构。当前的双层UB-Switch方案以及可能在未来推出的UB-Mesh架构,对于电气电缆直接互连、光互联的依赖程度不同,可能影响两大连接技术的演进,功耗大幅提升下,对液冷、供电、机房基建也提出更高的要求。 把握技术路径演变下的产业链机会,聚焦硬件互联与场景适配双线布局。建议关注:1)光通信:华工科技、光迅科技、中际旭创、新易盛等;2)网络设备与芯片:盛科通信、紫光股份、锐捷网络等;3)数据中心产业链:润泽科技、奥飞数据、光环新网、英维克、科华数据、科泰电源等;4)铜连接:意华股份、瑞可达、鼎通科技、兆龙互连;5)AI芯片与服务器供应商:海光信息、中科曙光、浪潮信息、紫光股份、神州数码、联想集团、华勤技术。 风险提示:技术路线不确定的风险;技术研发迭代进展不及预期;供应链稳定风险;竞争加剧风险。
|
|