>> 中信证券(香港)-全球科技行业-LLM日记:算力丰饶-261016
| 上传日期: |
2026/10/16 |
大小: |
501KB |
| 格式: |
pdf 共3页 |
来源: |
中信证券(香港) |
| 评级: |
-- |
作者: |
吴俊豪 |
| 下载权限: |
无限制-登录即可下载 |
|
|
摘要 中信证券财富管理与中信里昂研究观点一致。根据中信里昂研究在2026年10月16日发布的题为《LLMDiaries:Compute cornucopia》的报告,Anthropic正将Claude工作负载分散到英伟达GPU、谷歌TPU、亚马逊Trainium和AMDGPU上。芯片软件是一块三层蛋糕,由编译器、内核和推理引擎组成,每一层都需要调优,模型才能大规模高效运行。这项工作随着每一次模型发布和重大芯片升级而重复。多芯片采购令人担心会损害英伟达的份额,但算力的丰饶只会随着时间推移变得更加复杂,这提出了一个问题——芯片多元化是否值得这么麻烦? 四大芯片系列,16.7GW的承诺 Claude运行在英伟达GPU、谷歌TPU、亚马逊Trainium和AMDGPU上。Anthropic已承诺约16.7GW的可衡量AI加速器容量。 更多供应商缓解了对算力的争夺。它们也增加了Anthropic必须让Claude高效运行的芯片系统数量,这是一个复杂且重复的过程,并随着每次模型升级和新芯片发布而扩大。 能运行的模型不一定是运行得快的模型 第一项任务是正确性:让模型适配芯片的编译器和数值格式,然后对照参考模型检查其输出。 性能需要更多工作。工程师调优内核,决定如何在芯片之间划分模型,并适配处理用户请求的推理引擎。芯片供应商提供大部分软件。 像Anthropic这样的模型制造商仍需要优化对Claude最重要的部分,通常要与芯片供应商的工程师合作。 这项工作随着每次模型发布以及每款芯片而重复 新模型是最频繁的触发因素,Anthropic模型发布显示平均发布节奏仅为34天。 新芯片代际可能改变内存、带宽和芯片间互连,足以需要大幅重新优化。供应商软件更新也需要重新测试。 分析估算架构大体不变的模型在每个平台上的时间,以及架构发生重大变化时的时间。 这值得吗? Anthropic已从其关键算力供应商(亚马逊、谷歌、英伟达和AMD)处获得了高达960亿美元的已执行或承诺融资。 当前趋势支持英伟达在算力中的长期价值份额。这种情况可能改变,因为由于管理跨不同芯片的不同模型的复杂性增加,算力的丰饶之角极有可能走向整合。
|
|