Problem

具身智能(Embodied AI)模型的部署目前面臨 Python 軟體棧零碎化、後端假設不一及機器人端介面複雜等挑戰。現有推論環境多針對「請求-回應」模式設計,無法滿足閉環控制中所需的多頻率執行、延遲優先(Latency-first)的推論策略,以及在不同邊緣裝置上的跨平台擴充需求。

Method

研究團隊提出 Embodied.cpp,這是一個專為具身模型設計的 C++ 推論運行環境。該架構將執行路徑拆解為五層:輸入適配器、序列構建器、骨幹執行、頭部插件及部署適配器。透過此模組化設計,系統能支援多頻率非同步執行與延遲優先的融合推論,並透過統一的後端抽象對接異質硬體、機器人硬體與模擬環境。

Results

在 HY-VLA 與 pi0.5 兩款具身模型測試中,Embodied.cpp 分別達成 100.0% 與 91.0% 的閉環任務成功率。針對世界動作模型(WAM)的基準測試,該框架成功將區塊記憶體占用從 312.2 MiB 大幅降低至 88.1 MiB,證明在維持高準確度的同時,能顯著提升運算資源利用率。

Significance

這項研究為具身智能的實務部署提供關鍵的基礎設施,解決了模型與多樣化機器人硬體之間的相容性障礙。透過標準化的 C++ 執行路徑,開發者能更輕易地將複雜的視覺-語言-動作模型移植到邊緣設備,加速具身智能技術從研究環境走向真實世界應用。