Problem

目前主流的視覺-語言-動作(VLA)模型多基於馬可夫假設,主要依賴當前觀察來預測動作,導致在處理具備時間相關性的長程任務時表現不佳。現有的記憶增強方案通常將歷史資訊置於模型原生潛在空間之外,導致歷史經驗無法與多模態推理過程深度結合。

Method

研究團隊開發了 LaMem-VLA 框架,由四個核心組件構成:管理員(Curator)負責組織長短期記憶庫;尋求者(Seeker)根據當前情境檢索相關經驗;冷凝器(Condenser)將檢索到的資訊重構為緊湊的潛在記憶標記;編織者(Weaver)則將這些標記與當前觀測、指令整合進同一個連續嵌入序列中。

Results

在 SimplerEnv 與 LIBERO 等基準測試中的實驗結果顯示,LaMem-VLA 的性能顯著優於現有模型。透過在同一潛在空間中表示與檢索歷史經驗,模型能夠在受限的上下文窗口內,讓記憶直接參與 VLA 推理並精準引導動作生成。

Significance

此研究將記憶從輔助資訊提升為 VLA 推理的核心要素。這種「潛在空間原生」的記憶處理方式,為機器人處理複雜且具備時間依賴性的操作任務提供了全新的範式,大幅增強了具身智能在現實應用中的連續性與穩定性。