AlphaGeometry:不用人类证明示例,解奥赛几何
AlphaGeometry 把神经语言模型和符号演绎结合起来,用合成定理与证明训练,在奥赛几何上接近金牌水平。
主题
大模型推理
激发并提升大语言模型的逐步推理能力。
DPO:去掉强化学习循环的对齐技巧
Direct Preference Optimization 把偏好微调变成类似分类的简单目标,避免显式奖励模型和强化学习循环。
GPT-4:让前沿模型变得可评测的技术报告
GPT-4 技术报告公开的不是完整配方,而是一套衡量方式:多模态 Transformer、可预测扩展、后训练对齐和跨任务基准共同重塑了前沿 AI 预期。
Llama 3:Meta 把开放权重做成完整模型系统
Llama 3 不只是更大的开放权重模型,而是把多语言、代码、推理、工具使用和安全模型打包成一个公开模型家族。
DeepSeek-R1:纯强化学习如何教大模型学会推理
只奖励答案对错、不喂人工推理过程,DeepSeek-R1 让大模型自发学会逐步推理,数学基准比肩 OpenAI o1,且开源 MIT 权重。