Research Papers
EN ZH

大模型论文精选

大模型论文精选 · 2026-W41

统计窗口: 2026-07-13 – 2026-10-10 冻结于 2026-10-11

2

小米机器人一号：10 万小时以上真机轨迹预训练的视觉-语言-动作模型

小米机器人团队的视觉-语言-动作基础模型，用 10 万小时以上的真机 UMI 轨迹做预训练，并自动标注场景转换语言，再经后训练适配不同本体和人类的指令式提示。论文称数据量和参数量增加时性能持续提升，在新环境里可以开箱即用，灵巧任务上也能高效微调。

  • 10 星/7日
  • 15 引用
  • 75 点赞
  • #3 robocasa

arXiv · XiaomiRobotics/Xiaomi-Robotics-1

3

YuE2：先写出可读的乐谱、再据此渲染成完整歌曲音频的统一音乐生成模型

符号式音乐模型能显式规划作曲，但成品不像真正的录音；音频模型能生成整首歌，编曲逻辑却藏在里面。YuE2 把两者统一到单个 AR-NAR 混合 Transformer 架构里：先生成可读的乐谱，再展开成语义音乐 token，最后渲染成完整歌曲，并配套 MERT2、SheetSage2 两个表征模型，从没有对齐乐谱的录音中学习。论文称其在 WildSongBench 的 SongBench Global 平均得 6.73(best-of-8 为 6.96);专家盲听中 best-of-8 版本胜过 Suno v4.5、与 Suno v5 基本持平。生成的乐谱是可读的,外部语言模型 agent 可以直接按乐谱修改编曲。

  • 537 星/7日
  • 0 引用
  • 216 点赞

arXiv · multimodal-art-projection/YuE

5

NeoHorse-1：把每次对话的路由记录变成下一轮训练数据的自我进化模型

这篇工作给“递归自我改进”找了一个具体机制：系统记录每个用户回合预测的能力档位、实际路由到的服务层和交互结果，把这些记录经结构校验与六维语义评估后转成训练样本，保留交错推理、工具调用和 harness 上下文，驱动下一轮 agentic 后训练。

  • 177 星/7日
  • 0 引用
  • 407 点赞
  • #1 tau2-bench

arXiv · TokenRhythm/NeoHorse

7

Frontis-MA1：开源的 350 亿“元进化”智能体，递归改进自己的机器学习工程

Frontis-MA1 附带 OpenMLE 全栈开源系统（任务环境、强化学习算子学习、进化搜索），用来研究递归自我改进；其 350 亿参数元进化智能体围绕 Draft、Improve、Debug、Crossover 四类程序进化算子做后训练，作者称在 MLE-Bench Lite 上超过 GPT-5.5 加 Codex 的组合，组件还能迁移到没见过的 NatureBench Lite。

  • 20 星/7日
  • 3 引用
  • 186 点赞

arXiv · FrontisAI/OpenRSI

8

Edge0：35B MoE 权重放 SSD，靠提前一个 token 预测路由实现单卡流式推理

Edge0 是一个开源推理引擎，让 35B 混合专家模型在单张 24GB 显卡上跑起来：专家权重按需从 SSD 流式加载，每层用一个训练好的预路由头提前一个 token 预测下一层该激活哪些专家，让磁盘读取藏在计算背后；再配一个恢复 LoRA 补回 int4 量化的质量损失。作者称单卡可达约 20 tok/s、峰值活跃显存约 3GiB，五个公开基准上平均只比 fp16 原版低几个点。

  • 1,552 星/7日
  • 0 引用
  • 8 点赞

arXiv · Edge0-AI/edge0

9

OneStreamer：边看直播边把画面写成文字记忆的流式视频大模型

流式视频助手既要实时看懂直播画面，又得记住几分钟前发生的事。OneStreamer（南京大学）让一个 4B 模型用同一套生成过程同时干两件事：看视频时主动把时间戳标注的局部细节和事件摘要写进分层文本记忆，之后被追问时直接查这些文字记录，而不用回头重新编码历史帧。它还配套发布了 OneStreamer-1M 流式视频交互数据集（逾百万条记录），论文声称其 4B 模型在全部八个流式视频理解基准的比较方法中结果最好。

  • 98 星/7日
  • 0 引用
  • 154 点赞

arXiv · MCG-NJU/OneStreamer

10

TurboVLA：不用 LLM 当中枢，消费级显卡上以约 32 Hz 实时跑视觉-语言-动作模型

主流 VLA 方案要把视觉观测投影进大语言模型的表征空间再解码动作，每次决策都很重。TurboVLA 不走这条路：视觉与语言各自独立编码，经一个轻量双向交互模块交换信息，再由紧凑解码器直接输出连续动作块。作者称这个仅 0.2B 参数的策略在 LIBERO 上平均成功率 97.7%，在 RTX 4090 上推理延迟 31.2 毫秒、显存不到 1 GB，为小算力机器人控制器提供了一个不用 LLM 做中枢的简单替代。

  • 75 星/7日
  • 0 引用
  • 140 点赞

arXiv · H-EmbodVis/TurboVLA

11

Long-WAM：给机器人的世界-动作模型扩长视觉上下文，同时保住实时控制

实时机器人控制需要足够长的视觉历史来判断运动和任务进度，但处理这些历史往往会拖慢动作。NVIDIA LongLive 系列的 Long-WAM 发现收益取决于视频底座怎么预训练：自回归预训练下把上下文拉到约 19 秒能明显提升 RoboCasa 成功率，而双向预训练的初始化则几乎无收益。流式观测编码、异步执行和硬件级加速让它在 RTX 5090、DGX Spark、Jetson AGX Thor 上都压在实时预算内，并在 Unitree G1 和 YAM 真机上做了演示。

  • 98 星/7日
  • 0 引用
  • 97 点赞

arXiv · NVlabs/LongLive

14

MuScriptor：能转写真实多乐器混音的开放权重模型，可指定要记下哪些乐器

自动音乐转录一直只擅长独奏钢琴或分轨音频，一到真实的乐队混音就翻车。MuScriptor（Meta）瞄准的正是这个场景：训练配方先用合成音频预训练、再用真实音乐微调，最后加一轮强化学习后训练；它还支持按乐器条件控制输出，用户可以指定要转写哪些乐器。论文已被 ISMIR 2026 接收，模型权重开放下载。

  • 87 星/7日
  • 1 引用
  • 22 点赞

arXiv · muscriptor/muscriptor

本周 · 大模型论文精选