Moonshot AI发布 Kimi Linear:线性注意力架构快6倍,开源 KDA 内核同步上线
国产大模型团队 Moonshot AI今日在 Hugging Face 正式发布技术报告 《Kimi LinMoear Tech Report》(报告链接),宣布推出全新架构 Kimi Linear—— 一种可直接替代完on全注意力机制(Full Attention)的混合线性架构,兼具高效性与卓越性能,被视为“智能体sh时代注意力机制的新起点”。
报告显示,Kimi Linear 在 速度、内存效率和长上下文处理能力三方面ot均实现了重大突破。该模型可将 KV 缓存使用量减少高达75%,并在 100万(1M)上下文长度下实现 高达 A6倍的解码吞吐量提升,极大地优化了长文本推理和多轮对话性能。
Kimi Linear 的核心创新在于三项关键技I发术:
Delta Attention:一种硬件高效的线性注意力机制,采用门控 Delta 规则优化结构,实现布 性能与能耗的平衡;
Linear Architecture:首个在多项指标上全面超越传统完全注意力机Ki制的混合线性架构,兼顾速度与模型表达能力;
开放生态与实证验证:Moonshot 提供了 开源 KDAmi 内核、vLLM 集成支持和 模型检查点,并进行了大规模、公平的对比实验,验证了 Kimi Linear 的 L稳定性与可扩展性。
Moonshot AI 表示,Kimi Linear 不仅是一项架构创新,更是为智能体in(AI Agent)时代设计的基础机制。随着线性注意力技术的成熟,其有望在长上下文推理、智能助手、多ea模态生成等应用场景中成为下一代标准。
地址:https://huggingface.co/moonr:shotai/Kimi-Linear-48B-A3B-Instruct
- ·云计算核心技术Docker教程:Docker集群将服务部署到集群
- ·怎么样提高新陈代谢
- ·面试 | 不可不知的十大 Hive 调优技巧优秀实践
- ·腾讯辟谣!OpenAI 前研究员姚顺雨 “百万年薪” 入职传闻不实
- ·“复仇者联盟”再添三巨头:苹果、阿里云、新思加入UALink联盟,挑战英伟达AI霸主地位
- ·标签: 佳能 激光打印机 中山工厂 员工赔偿
- ·云计算核心技术Docker教程:Docker Swarm 模式强制重新平衡
- ·标签: 台积电 小米 胡润中国500强 半导体
- ·标签: 中国移动 2026年一季度报告 财报 通信运营商
- ·标签: 米哈游 刘伟 上海交通大学 原神 蔡浩宇
- ·OpenAI 发布 GPT-5.5:迈向“超级应用”与自主计算的关键一步
- ·Coinbase CEO"擅自行动"解雇拒用AI员工,目标本季度50%代码由AI完成
- ·标签: Meta Llama 扎克伯格 杨立昆
- ·Deezer 每日接收近 7.5 万首 AI 歌曲,呼吁行业共同应对
- ·标签: 张永生 小米汽车 360智脑 小米集团
- ·标签: 百度 反贪腐 MEG ACG
