庫邦馬來語翻譯新突破：Lius 模型透過持續指令微調克服低資源語言數據困境

本研究提出 Lius 模型，整合雙語詞典特徵與持續指令微調技術，顯著提升低資源語言庫邦馬來語的翻譯品質，打破對大規模平行資料的依賴。

Problem

大型語言模型在處理如庫邦馬來語（Kupang Malay）等低資源語言時，常面臨翻譯品質大幅下降的挑戰，主要原因在於缺乏充足的平行語料庫進行訓練，導致模型難以精確掌握該語言的特性。

開發名為 Lius 的翻譯模型並採用「持續指令微調」（CIT）訓練範式。該方法利用雙語詞典提取顯性的詞彙與語義特徵來設計指令，並透過迭代式的指令式訓練，強化模型對特定語言特徵的掌握能力。

實驗結果顯示，Lius 在多項指標上優於標準指令微調模型約 4 至 6 分；與傳統神經機器翻譯（NMT）及多語言大型語言模型相比，表現更顯著提升了 10 至 13 分。

這項研究證實了即便在缺乏大規模平行資料的情況下，透過精巧的指令設計與持續微調技術，也能有效提升少數語言的翻譯效能，為低資源語言的數位保存與跨語言溝通提供了關鍵的解決方案。