>> 广发证券-电子行业“AI的iPhone时刻”系列15:CoWoS实现HBM和GPU高速互连-230614
| 上传日期: |
2023/6/14 |
大小: |
2087KB |
| 格式: |
pdf 共21页 |
来源: |
广发证券 |
| 评级: |
-- |
作者: |
许兴军,王亮,耿正 |
| 行业名称: |
电子 |
| 下载权限: |
此报告为加密报告 |
|
|
先进封装提升数据传输带宽,释放HPC芯片算力。英伟达发布基于Grace Hopper芯片的超级计算机GH200。Grace Hopper使用NVLink C2C技术实现CPU与GPU间900 GB/s带宽高速互连;Hopper GPU使用CoWoS技术集成HBM3内存,内存带宽高达3000 GB/s。后摩尔时代,芯片晶体管密度提升接近极限,芯片尺寸放大也受到掩模版极限的限制,晶圆制造工艺对芯片算力的提升趋于放缓。长期以来,芯片封装技术的进步速度慢于晶圆制造技术,这导致芯片数据传输速率的提升低于芯片算力的提升,传输带宽已经成为限制芯片性能的瓶颈之一。因此各种2.5D、3D先进封装技术将成为AI等高性能计算场景中算力提升的关键。 台积电CoWoS-S技术是目前HBM与CPU/GPU处理器集成的主流方案。HBM是一种新型内存,通过垂直堆叠DRAM芯片以缩短内存和处理器间通信的距离,从而提升数据传输带宽。相比于常见的DRAMDIMM,HBM最大的优势在于DRAM芯片之间以及内存和处理器之间的带宽更高,尺寸更小。目前HBM已经迭代至HBM3,代替DRAMDIMM成为先进高性能计算芯片的首选内存方案。HBM与处理器之间的集成需要使用2.5D先进封装技术。英伟达P100、V100、A100、H100、Grace Hopper等高性能数据中心芯片均采用台积电CoWoS-S技术实现HBM与GPU的封装。CoWoS-S是台积电3DFabric平台下的2.5D封装技术平台,使用硅晶圆作为中介层构造芯片-晶圆-基板(Chip-on-Wafer-on-Substrate)结构,实现处理器与HBM之间高密度、高带宽互连,成为目前HBM与CPU/GPU处理器集成的主流方案,除英伟达外,CoWoS的用户还包括Broadcom、Google TPU、Amazon Trainium等头部厂商。 投资建议。AIGC推动AI服务器需求增长,建议关注:算力:海光信息、寒武纪(计算机组覆盖)、工业富联、芯原股份、龙芯中科等;连接:源杰科技、澜起科技、裕太微、聚辰股份、帝奥微等;PCB:胜宏科技、沪电股份;存储:深科技、北京君正、兆易创新、东芯股份等;电源:杰华特;制造:中芯国际、长电科技、通富微电、甬矽电子等;应用:海康威视、大华股份、韦尔股份、思特威、格科微、恒玄科技、晶晨股份、全志科技、瑞芯微等。 风险提示。AIGC发展不及预期;AI服务器出货量不及预期;国产厂商技术和产品进展不及预期。
|
|