>> 广发证券-电子行业“AI的iPhone时刻”系列13:DGX服务器集群架构催生大量光模块/光芯片需求-230501
| 上传日期: |
2023/5/1 |
大小: |
2890KB |
| 格式: |
pdf 共26页 |
来源: |
广发证券 |
| 评级: |
-- |
作者: |
许兴军,王亮,耿正 |
| 行业名称: |
电子 |
| 下载权限: |
此报告为加密报告 |
|
|
DGX服务器集群架构需要服务器、网卡、交换机、线缆、光模块等关键硬件。为实现AI大模型训练、科学计算等高算力需求工作,需要使用数百甚至上千个GPU组成的计算单元作为算力基础评估、优化模型的配置和参数。为了使这样一个庞大的计算单元能够有效发挥其效率,需要使用低延迟、高带宽的网络联接各个服务器节点,以满足服务器/GPU间计算、读取存储数据的互联通信需求,同时对整个集群系统进行管理。服务器集群的网络系统包含服务器、网卡、交换机、线缆(包含光模块)等主要硬件。就网络构成来看,网卡搭载于服务器内部,网卡直接与CPU相连或通过PCIe Switch与GPU相连;一层交换机通过服务器机身的端口与服务器内的网卡相连;线缆用于实现服务器-交换机、交换机-交换机间的连接,如果信息传输以光信号的形式实现,线缆两端均需要搭载光模块。参考从DGX-1到DGXH100的服务器迭代历程,服务器搭载网卡数量、单端口支持最高带宽均呈现出逐代次增加趋势;相应对支持更高传输速率的交换机、更高传输速率的线缆/光模块带来了增量需求。 DGXA100服务器集群中单颗A100对应约7颗200G光模块需求。服务器集群的网络架构包含IB网络和以太网络,其中IB网络主要用于实现计算、存储互联,以太网主要用于In-Band管理和Out-of-Band管理。在140台DGXA100组成的DGXA100 SuperPOD集群中,考虑计算网络和存储网络需求,共有约4000根IB网络线缆,对应约8000个端口;在全光互联方案中,平均每颗A100对应约7个200G光模块需求,其中计算、存储网络分别对应6.0、1.2个200G光模块需求,合计对应约28个50G光芯片(收发芯片)需求。 DGXH100服务器集群中单颗H100对应约1.5颗800G光模块+2颗400G光模块需求。在128台DGXH100组成的DGXH100 SuperPOD集群中,考虑计算网络和存储网络需求,平均每颗H100对应约1.5个800G光模块+2个400G光模块需求,约20个100G光芯片(收发芯片)需求。 投资建议。AIGC推动AI服务器需求增长,建议关注:算力:海光信息(与计算机组联合覆盖)、寒武纪(计算机组覆盖)、芯原股份、龙芯中科等;连接:源杰科技、澜起科技、裕太微、聚辰股份、帝奥微等;PCB:胜宏科技、沪电股份;存储:深科技、北京君正、兆易创新、东芯股份等;电源:杰华特;制造:中芯国际、长电科技、通富微电、甬矽电子等;ODM:工业富联;应用:海康威视、大华股份、韦尔股份、思特威、格科微、恒玄科技、晶晨股份、全志科技、瑞芯微等。 风险提示。AIGC发展不及预期;AI服务器出货量不及预期;国产厂商技术和产品进展不及预期。
|
|