研报下载就选股票报告网
您好,欢迎来到股票分析报告网!登录   忘记密码   注册
>> 华泰证券-电子动态点评-AMD MI300:AI芯片十问十答-230611
上传日期:   2023/6/12 大小:   3958KB
格式:   pdf  共25页 来源:   华泰证券
评级:   增持 作者:   何翩翩
行业名称:   电子
下载权限:   此报告为加密报告
AMD财报后以AI为策略首位,市场聚焦6月13日发布会
  我们在5月18日和5月30日分别推出了关于AMDMI300的研报后,我们希望在本报告中进一步深入探讨市场对于AMDMI300比较关心的问题,包括:在AI芯片中CPU+GPU架构的优势、CPU架构的选择对比、3DChiplet封装技术与统一内存架构的优势、数据传输的效率和扩展性、生态圈与兼容性、以及训练与推理所需的数据精度等。我们建议关注AMD将于加州时间2023年6月13日早上10时(北京时间6月14日凌晨1时)举办的“AMD数据中心和人工智能技术首映式”,会上或将提供包括MI300、Infinity Fabricv4、Bergamo和Genoa-X等产品的更多细节。
  MI300与GH200同为CPU+GPU架构,此架构在AI芯片中的优势何在?
  虽然MI300是AMD首个此架构的数据中心产品,但AMD早在2011年发布的PC端APU就已是此架构。因此,AMD具备较深厚的know-how。我们认为此架构已成为AI芯片的趋势。鉴于AI的最终目标是模仿人类大脑操作,因此,AI芯片也应仿生人脑结构,并顺应多模态模型的发展需求。类比人脑,CPU更像左脑,负责对信息的逻辑处理,如串行运算、数字和算术、分析、整理等;而右脑更像GPU,负责并行计算、创造性思维等。在不同模态推理时,CPU与GPU也各有分工,如处理语音和文本时或更适合使用CPU;但在处理图像、视频等,需大规模并行运算,或更适宜由GPU负责。
  MI300与GH200的CPU架构、封装技术、统一内存和数据传输各有千秋
  英伟达的ARM和AMD的x86 CPU在AI应用里各有优势。ARM相比x86能耗较低,在AI和云计算中或较合适,且在CPU+GPU架构里,CPU或仅需发挥其部分功能,如发放指令等,因此ARM或已足够。而x86追求高性能和拥有丰富指令集,在AI推理也可跟GPU互补。MI300使用3DChiplet封装技术,而GH200则使用CoWoS(2.5D)封装。前者具有提高性能、降低延迟和功耗的优点。目前,台积电、英特尔、三星三大代工厂,以及封装厂如通微富电、日月光等也在积极部署。MI300的统一内存可降低不同内存间来回复制、同步和转换数据所导致的编程复杂性。而GH200的NVLink或受限于协议速率,但比PCIe 5.0快7倍。NVLink也支持跨节点多GPU间的数据访问与高速传输,可扩展性高。
  CUDA和ROCm生态圈对比,成色几何?
  AMDROCm相比英伟达CUDA起步较晚。ROCm虽能完全兼容CUDA,为AMD提供了说服客户迁移的条件和理由,但兼容只属权宜之计,进一步建立ROCm生态圈才能攻破CUDA的护城河。我们认为目前ROCm的不足之处在于操作系统长期只支持Linux,最近才登录Windows;加上长期只支持高端GPU,如Radeon Pro系列等,直到今年4月才扩展至一些消费级GPU;另外,CUDA在今年达400万以上的开发者,也是ROCm无法相比。但AMD目前也正积极拓展ROCm生态圈,包括支持Windows操作系统、在AI领域开拓更广泛的框架,如MIOpen和MIVisionX,以及支持更多的软件,包括TensorFlow、PyTorch等。ROCm在进一步通过HIP兼容CUDA的同时,也与客户包括微软等合作重构自己的生态。
  风险提示:AI技术落地和推进不及预期、竞争格局越演越烈、中美关系升级。
  
 
Copyright © 2005 - 2021 Nxny.com All Rights Reserved 备案号:蜀ICP备15031742号-1