标签：推理加速

共 1 篇文章

• 连续流大模型来了 2026-10-30

  2026年10月，UC Berkeley、Amazon等发布Large Flow Language Models，提出连续流模型Lafa，达8B。其前缀因果、块内双向异步流，流匹配从噪声生成词元，适配预训练自回归模型，用不到30B词元，比离散扩散少18倍数据。自投机解码在单模型内自回归验证草稿，H100达2.54倍吞吐、质量相当。本文解读机制、数据及对银行推理降本、领域适配、可控生成的价值与边界。