一、InfiniBand与以太网是AI大模型训练集群的主要互联技术
　　AI模型参数规模不断扩大，对大模型训练网络提出更高要求。随着以GPT3.0为代表的大模型展现出令人惊艳的能力后，智算业务往海量参数的大模型方向发展已经成为一个主流技术演进路径。以自然语言处理（NLP）为例，模型参数已经达到了千亿级别。计算机视觉（CV）、广告推荐、智能风控等领域的模型参数规模也在不断的扩大，正在往百亿和千亿规模参数的方向发展。
　　大模型训练中大规模的参数对算力和显存提出了更高的要求，千亿参数模型需要2TB显存，当前的单卡显存容量不够。即便出现了大容量的显存，如果用单卡训练的话也需要32年。为了缩短训练时间，通常采用分布式训练技术，对模型和数据进行切分，采用多机多卡的方式将训练时长缩短到周或天的级别。
　　分布式训练就是通过多台节点构建出一个计算能力和显存能力超大的集群，来应对大模型训练中算力墙和存储墙这两个主要挑战。而联接这个超级集群的高性能网络直接决定了智算节点间的通信效率，进而影响整个智算集群的吞吐量和性能。要让整个智算集群获得高的吞吐量，高性能网络需要具备低时延、大带宽、长期稳定性、大规模扩展性和可运维几个关键能力。
　　InfiniBand和以太网RoCEv2是当前智算网络互联主要方案。要满足智算网络的低时延、大带宽、稳定运行、大规模以及可运维的需求，目前业界比较常用的网络方案是InfiniBand方案和RoCEv2方案。
　　1）Infiniband
　　InfiniBand网络的关键组成包括Subnet Manager（SM）、InfiniBand网卡、InfiniBand交换机和InfiniBand连接线缆。
　　支持InfiniBand网卡的厂家以NVIDIA为主。InfiniBand网卡在速率方面保持着快速的发展。200Gbps的HDR已经实现了规模化的商用部署，400Gbps的NDR的网卡也已经开始商用部署。交换机方面，NVIDIA在2021年推出了400Gbps的Quantum-2系列交换机（64*400G）。交换机上有32个800GOSFP口，需要通过线缆转接出64个400GQSFP。InfiniBand交换机上不运行任何路由协议。整个网络的转发表是由集中式的子网管理器（SubnetManager，简称SM）进行计算并统一下发的。除了转发表以外，SM还负责管理InfiniBand子网的Partition、QoS等配置。
　　2）RoCEv2网络
　　RoCEv2网络则是一个纯分布式的网络，由支持RoCEv2的网卡和交换机组成，一般情况下是两层架构。支持RoCE网卡的厂家比较多，主流厂商为NVIDIA、Intel、Broadcom。数据中心服务器网卡主要以PCIe卡为主。RDMA网卡的端口PHY速率一般是50Gbps起，当前商用的网卡单端口速率已达400Gbps。支持RoCE的交换机厂商中，市场占有率排名靠前的包括新华三、华为等。支持RoCE的网卡当前市场占有率比较高的是NVIDIA的ConnectX系列的网卡。
　　当前大部分数据中心交换机都支持RDMA流控技术，和RoCE网卡配合，实现端到端的RDMA通信。国内的主流数据中心交换机厂商包括华为、新华三等。高性能交换机的核心是转发芯片。当前市场上的商用转发芯片用的比较多的是博通的Tomahawk系列芯片。其中Tomahawk3系列的芯片在当前交换机上使用的比较多，市场上支持Tomahawk4系列的芯片的交换机也逐渐增多。
　　博通、Marvell主导全球商用交换芯片市场。根据以太网交换芯片设计企业是否从事品牌交换机的研发、生产与销售，可以简单将以太网交换芯片设计企业分为自用厂商与商用厂商，前者主要从事以太网交换机产品的生产销售，其自研芯片用于自产的以太网交换机产品，主要厂商包括思科、华为等；而后者的商用交换芯片通常用于销售予其他以太网交换机整机厂商，主要厂商包括博通、美满（Marvell）、瑞昱、英伟达、英特尔、盛科通信等。
　　以太网交换芯片领域集中度较高，少量参与者掌握了大部分市场份额。博通的以太网交换芯片产品在超大规模的云数据中心、HPC集群与企业网络市场占据较高份额，为以太网交换芯片全球龙头。由于以太网交换芯片行业具备较高的技术壁垒、客户及应用壁垒和资金壁垒，因此当前行业整体国产程度较低，国内参与厂商较少。
　　根据灼识咨询数据，2020年中国商用以太网交换芯片市场以销售额口径统计，博通、美满和瑞昱分别以61.7%、20.0%和16.1%的市占率排名前三位，合计占据了97.8%的市场份额。此外，盛科通信的销售额排名第四，占据1.6%的市场份额，在中国商用以太网交换芯片市场的境内厂商中排名第一；中国商用万兆及以上以太网交换芯片市场方面，盛科通信的销售额排名第四，占据2.3%的市场份额，在中国商用以太网交换芯片市场的境内厂商中排名第一。
　　风险提示
　　行业技术路线变化风险
　　以太网与Infiniband以及卡间互联标准尚未固定，技术路线未来可能发生变化。
　　竞争加剧风险
　　国内交换机厂商自研交换机芯片，可能加剧行业竞争。
　　产品研发进度不及预期风险
　　交换机芯片研发难度较大，可能研发进展不及预期。