9月22日凌晨,小米方面发布并开源了 Xiaomi MiMo-V2.6系列大模型。根据小米方面的说法,这是其探索 RSI路径的关键一步:以可验证的复杂任务为基础,规模化扩展强化学习算力。
价格方面,MiMo-V2.6系列沿用V2.5系列的API定价。值得一提的是,就在几日前的凌晨,小米MiMo大模型团队负责人罗福莉在X平台分享了MiMo-V2.6的实时训练页面,这也是外界首次看到这一代模型强化学习阶段的部分训练状态。
罗福莉公开的训练页面中包含两个版本,分别是MiMo-V2.6-Pro和MiMo-V2.6-Flash。根据当时的统计数据,MiMo-V2.6-Pro训练时长为1天19小时,耗费89万美元,平均每小时耗费超2万美元;MiMo-V2.6-Flash训练时长1天14小时,耗费39.7万美元,平均每小时耗费超1万美元。综合计算,两个版本训练合计每小时花费约3.1万美元。
小米方面称,此次训练主要从三个维度扩展了RL算力,支持1M上下文长度训练,单步训练Token达2.7~3.7B。构建了覆盖Code、General、Visual、Cyber等方向的多任务训练体系,并混合多个Harness;通过Group内相对比较,为Long-Horizon RL任务提供更精准、多样的奖励信号,形成模型自我改进闭环,并引导模型以更短路径、更少Token完成任务。小米方面称,公司已开源上述技术成果及配套资源,包括完整技术报告、训练环境与RL代码。



