突发!小米开源MiMo大模型,性能超越OpenAI

推荐 04-30 阅读:39 评论:32

前脚阿里刚开源超强的混合推理模型Qwen3,后脚小米也来放了个大招!

小米公司正式发布并宣布开源其首个专注于提升模型推理(Reasoning)能力的大型语言模型Xiaomi MiMo。这款模型旨在通过技术创新,突破现有预训练模型的潜在瓶颈,深度激发AI的思考与解决问题能力。

小米方面表示,开发MiMo的核心出发点在于探索如何在当前大模型技术基础上,有效提升其进行复杂逻辑推理、数学运算和代码生成等高级认知任务的能力。通过联动预训练与后训练阶段的优化,MiMo力求在推理性能上实现显著飞跃。

基准测试表现突出:7B模型超越更大竞争对手

根据小米公布的测试数据,Xiaomi MiMo在多个衡量模型推理能力的公开基准测试中展现出超越同类甚至更大规模模型的优异性能。

在考察数学推理水平的AIME 24-25评测集和评估代码竞赛能力的LiveCodeBench v5评测集上,参数规模为7B的MiMo模型,其表现均超过了OpenAI的闭源推理模型o1-mini,以及参数量高达32B的阿里开源推理模型QwQ-32B-Preview。这一结果表明,MiMo在推理效率和效果上达到了行业领先水平。

此外,研究显示MiMo-7B在强化学习(RL)领域展现出显著的潜力优势。与当前业内广泛用作RL起始模型的DeepSeek-R1-Distill-7B和Qwen2.5-32B(32B参数)相比,即使在相同RL数据条件下进行训练,MiMo-7B在数学与代码领域的RL潜力评估中依然表现更优。

技术解析:预训练与后训练的协同创新

MiMo之所以能在推理能力上取得突破,得益于小米大模型Core团队在模型设计与训练流程上的多项技术创新:

预训练阶段:强化推理模式学习。 团队在预训练数据上着重挖掘富推理语料,并创新性地合成了约200B tokens的高质量推理数据,让模型充分接触并学习各种推理逻辑。训练过程采用三阶段训练模式,逐步提升难度,累计训练数据量达到25T tokens。

后训练阶段:构建高效稳定强化学习系统。 在此阶段,小米团队引入了创新的RL算法和框架。算法层面,提出了Test Difficulty Driven Reward机制,旨在缓解困难推理问题中的奖励稀疏性,并引入Easy Data Re-Sampling策略以提高训练稳定性。框架层面,通过设计的Seamless Rollout系统,显著提升了RL训练效率(加速 2.29 倍)和验证效率(加速 1.96 倍)。

上述技术细节已在小米公开的技术报告中详细阐述。

小米大模型Core团队首个重要对外成果

为推动人工智能社区在推理能力方向的共同发展,小米已将Xiaomi MiMo-7B的四个变体模型全部开源,托管于HuggingFace平台。全球的开发者和研究人员现可免费获取并使用这些模型。

据了解,Xiaomi MiMo是小米新近成立的「小米大模型Core团队」的首个重要对外成果。该团队表示,尽管当前大模型技术发展迅速,但实现通用人工智能(AGI)仍然是一个长期的目标与挑战。团队将持续秉持务实创新的精神,探索人工智能的前沿领域,致力于通过技术突破不断拓展智能的边界。

小米模型这么强,能不能让小爱同学厉害点啊?

网友评论

精彩评论
  • 2025-04-30 15:02:12

    雷军:再也抄不了底了。现在就是10年大底。

  • 2025-04-30 16:29:55

    雷军完美诠释了四个字 事以密成

  • 2025-04-30 15:10:37

    小米研发费是冥币 真抗用 小米工程师都免费打工不要钱 小米万物都能自研

  • 2025-04-30 15:48:11

    不应该穿红色吗?这样你到何年何月才能翻本啊[红脸笑]

  • 2025-04-30 16:41:11

    炒股的女生,五一假期五天不开盘比失恋还痛苦到底谁懂啊

  • 2025-04-30 16:47:12

    刚创建的超短族 有没有8090后一起的[玫瑰]

  • 2025-04-30 17:12:27

    48块横盘几天清仓了,结果今天暴涨[无奈吐舌]

  • 2025-04-30 17:24:07

    低位36抄底的,发大财了[哭哭][哭哭][哭哭][哭哭]

  • 2025-04-30 14:01:49

    一样,我们觉得可以谈个5天,然后假期结束各炒各的[思考]

  • 2025-04-30 14:30:35

    这是赛道门槛有点高,话术还没研究好,等研究好话术就能喷了,马上了[doge][doge]

  • 2025-04-30 17:10:27

    之前是不是说小米挖了幻方的人?[笑着哭]

  • 2025-04-30 17:36:53

    今天都是谁赚到的钱啊,出来让姐姐我看一看 [无奈吐舌][无奈吐舌][无奈吐舌],姐姐今天大亏[哭哭][哭哭][哭哭],来个男生聊聊安慰一下,让姐姐我开心一下[哭哭][哭哭]

  • 2025-04-30 15:17:24

    小米就行。你没看到处营销视频吗

  • 2025-04-30 16:53:49

    我的今天怒涨百分之二十。我还想它明天涨停呢[捂脸哭]

  • 2025-04-30 14:49:31

    哈哈哈哈,亏了二十个点了,不知道还有机会回本吗

  • 2025-04-30 17:16:08

    7b 不是4080笔记本就能带起来吗[doge]

  • 2025-04-30 15:05:46

    羊哥,我上岸了,窟窿补上了!开心分享一下,有没有陪我一起的呀?

  • 2025-04-30 14:03:27

    雷军和任正非,马云,你们喜欢哪个?

  • 2025-04-30 14:15:45

    那也不错了,吃个鱼身就行

  • 2025-04-30 14:04:14

    要不你就随了老衲吧,反正你都炒了股,跟什么样的男人在一起还重要吗?[呲牙笑]