Problem
擴散大型語言模型(dLLM)具備高效的並行生成潛力,非常適合對延遲敏感的應用。然而,如何將此機制擴展至多模態 GUI 代理,並在維持並行解碼優勢的同時,確保代理能精確感知螢幕狀態並產出具備空間定位能力的結構化操作指令,仍是學界待解的課題。
Method
研究團隊開發了具備 16.7B 參數、基於混合專家模型(MoE)架構的 LLaDA-UI。該模型採用兩階段訓練流程:首先進行一般多模態預訓練,將原生解析度視覺編碼器與 LLaDA2.0-mini-base 擴散語言骨幹對齊;接著利用涵蓋行動端、桌面、網頁及定位任務的多樣化資料進行 GUI 代理監督式微調(SFT)。
Results
在廣泛採用的定位與導航基準測試中,LLaDA-UI 的表現顯著優於 Qwen2.5-VL-7B,並在六項報告的 GUI 基準測試中,有四項超越了 Qwen3-VL-8B。實驗結果證實了分塊並行解碼在處理複雜圖形使用者介面任務時,能提供更優異的生成效率與準確性。
Significance
這項研究確立了「分塊擴散」作為構建多模態 GUI 代理的一種實用且高效的生成範式。這不僅挑戰了傳統自回歸模型的地位,更為需要即時感知與低延遲反應的自動化代理提供了一條兼具性能與速度的新技術路徑。