Problem

現有的 MeanFlow 模型雖能透過預測平均速度實現極速的少步取樣,但因其數學結構與基於瞬時速度最佳化的 DiffusionNFT 強化學習框架不相容,導致這類高效模型難以根據人類偏好或特定任務目標進行精準的對齊微調。

Method

研究團隊開發了 MeanFlowNFT 框架,核心在於利用 MeanFlow 恆等式建立一個誘導式的瞬時速度預測器。透過對此預測器應用 DiffusionNFT 的前向強化學習目標函數,使模型能在保留平均速度取樣優勢的同時,獲得嚴格的策略改進保證,實現獎勵函數的最佳化。

Results

在影像與影片生成的基準測試中,MeanFlowNFT 表現優異。於 SD3.5-M 模型上在 8 項指標中取得 6 項領先;在影片生成模型 Wan 2.1 上,僅需 4 步取樣的 VBench 分數即達 84.33,顯著超越需 50 步取樣的 LongCat-Video RL(82.57)。

Significance

此項研究成功將前向強化學習擴展至平均速度生成領域,證明了少步生成模型也能具備強大的對齊能力。這不僅大幅降低了高品質生成內容所需的運算成本,也為開發高效且符合人類偏好的生成式人工智慧模型提供了關鍵技術路徑。