强化学习 · Michigan State University
Rethinking Muon 论文解读:Muon 在哪崩、Pion 怎么修
Muon 把更新的所有奇异值推向 1 的做法赢在预训练,却在可验证奖励强化学习里崩溃、在机器人策略上表现不佳;Pion 保留主导方向、压制噪声尾部,同时胜过 Muon 和 AdamW。
机构
Cisco Research
思科的研究部门,发表高效训练、智能体与 AI 安全方向的工作。
Research Papers Research Papers 机构
思科的研究部门,发表高效训练、智能体与 AI 安全方向的工作。
强化学习 · Michigan State University
Muon 把更新的所有奇异值推向 1 的做法赢在预训练,却在可验证奖励强化学习里崩溃、在机器人策略上表现不佳;Pion 保留主导方向、压制噪声尾部,同时胜过 Muon 和 AdamW。