事件描述
　　3月16日，月之暗面发布论文，提前预览下一代模型的关键模块——注意力残差（Attention Residuals，简称AttnRes）。
　　事件评论
　　定位下一代大模型底层架构创新，AttnRes动态重构跨层信息聚合。核心亮点在于对大模型的残差连接（Residual Connection）进行重新设计。针对传统Transformer深层网络中历史信息被“等权累加”稀释的痛点，AttnRes（注意力残差）摒弃固定的残差相加，引入注意力机制，使模型每一层能动态“检索”并按需调用早期层的特征。据月之暗面论文披露，将该机制集成至Kimi Linear架构后，模型在数学推理、科学问答（GPQA-Diamond得分提升超20%）及代码生成等多项复杂任务上取得显著提升，核心旨在解决深层网络能力衰减与训练不稳定的行业难题。
　　首创Block AttnRes工程方案，兼顾性能与可扩展性，实现算法能力与系统开销的有效平衡。面对全注意力残差带来的通信与显存开销激增，团队通过“分块注意力（Block AttnRes）”设计，结合跨阶段缓存（cross-stage cache）与两阶段计算策略，大幅降低冗余通信与内存读取次数。在实际系统中，该方案将额外的端到端训练耗时增加不到4%，推理延迟开销不足2%，同时显著降低了长上下文场景下的显存需求。在同等验证损失下，Block AttnRes展现出约1.25倍的计算效率优势，这意味着该架构具备在大规模模型与长上下文场景中实际部署的工程可行性，有望成为下一代模型架构演进的重要候选路径。
　　架构优化重组Scaling Law，验证大模型演进进入“效率与质量驱动”阶段。AttnRes通过提升单一参数的信息利用率，使模型在不大幅增加底层算力消耗的前提下，拔高了复杂多步推理能力的上限。我们认为，未来头部模型厂商的竞争焦点正逐步拓宽，架构创新带来的边际性能提升将成为拉开能力梯队的核心变量。更优的计算效率也有望未来超长文本处理与复杂Agent应用的规模化落地提供降本的基础。
　　底层架构重构深化基础设施协同要求，看好“架构创新+算力基建”共振带来的产业链机遇。AttnRes等新架构对适配硬件提出了更高阶的要求，有望驱动底层硬件与软件栈的加速迭代。当前时点关注核心算力芯片、前沿架构技术方案（新型网络互联与长上下文存储优化）、云端MaaS服务。
　　看好Kimi模型竞争力继续提升、资本化加速。叠加Kimi在长上下文与推理能力上的既有优势，其在Agent与复杂任务场景中的竞争力有望进一步强化。看好模型厂商MaaS商业化能力持续兑现，并带动云侧高质量算力需求与利用率提升。
　　风险提示
　　1、AI技术发展不及预期；
　　2、下游应用需求不及预期。