共 2 篇文章
CMU、JHU与Aurora Innovation提出统一训练:把预训练、中训练、监督微调与强化学习全部放进同一个基于似然的目标,RL目标被推导为对模型生成目标的最大似然拟合。124M小模型从头统一训练即胜过分阶段训练;0.76B模型上5%中训练数据配比在数学与编码四项指标上最佳。本文分析它对银行自研大模型训练流程的影响。
Harvey、Cursor 用专业数据训练专属模型,桥水基金以 Qwen3-235B 做金融信息筛选把错误率降低 29.8%、推理成本降 13.8 倍。当 PyTRIO 把大模型训练封装成 Training API、开启 TaaS 范式,银行面对的不只是新工具,而是模型自主权、数据主权与算力治理三重命题。