共 1 篇文章
CMU、JHU与Aurora Innovation提出统一训练：把预训练、中训练、监督微调与强化学习全部放进同一个基于似然的目标，RL目标被推导为对模型生成目标的最大似然拟合。124M小模型从头统一训练即胜过分阶段训练；0.76B模型上5%中训练数据配比在数学与编码四项指标上最佳。本文分析它对银行自研大模型训练流程的影响。