科技进展中更新于 2 小时前 · 始于 2026年9月24日
小米公布HySparse2，两级KV共享设计用于MiMo-V3级模型
据 Pandaily 报道，小米的 LLM-Core 团队发布了 HySparse2，一种具有两级 KV 共享的混合稀疏注意力设计，面向 MiMo-V3-class 代理模型，报告称相比 Hybrid SWA，在 80B-A3B MoE 上实现了约 5 倍的 1M-token 预填充 FLOPs 的降低。文章指出该设计旨在提升大模型的效率，但未提供部署细节。
coda.news 分析
要点
- 01小米的 LLM-Core 团队发布了 HySparse2。
- 02HySparse2 是具有两级 KV 共享的混合稀疏注意力设计。
- 03它面向 MiMo-V3-class 代理模型。
- 04它报告在 80B-A3B MoE 上相比 Hybrid SWA 实现约 5 倍的 1M-token 预填充 FLOPs 降低。
由 AI 根据下方来源生成，请以原文为准。
各国怎么说
在我们收录的来源里，目前只有一个国家报道了这件事。找到第二个国家的报道后，这里会出现各国视角对比。
来源
摘要由 AI 根据所链接的来源生成，可能有误，请以原文为准。我们只做摘要和链接，从不转载原文。图片来自开放授权图库、官方宣传图和品牌 logo，均注明来源。如您是图片权利人，希望修改署名或删除，请发邮件至 info@coda.news，我们会尽快处理。