强化学习 · Michigan State University
Rethinking Muon 论文解读:Muon 在哪崩、Pion 怎么修
Muon 把更新的所有奇异值推向 1 的做法赢在预训练,却在可验证奖励强化学习里崩溃、在机器人策略上表现不佳;Pion 保留主导方向、压制噪声尾部,同时胜过 Muon 和 AdamW。
机构
Michigan State University
公立研究型大学,其 OPTML 团队研究优化、鲁棒性与机器遗忘。
Research Papers Research Papers 机构
公立研究型大学,其 OPTML 团队研究优化、鲁棒性与机器遗忘。
强化学习 · Michigan State University
Muon 把更新的所有奇异值推向 1 的做法赢在预训练,却在可验证奖励强化学习里崩溃、在机器人策略上表现不佳;Pion 保留主导方向、压制噪声尾部,同时胜过 Muon 和 AdamW。