Problem

現有的機器遺忘評估指標存在嚴重的結構性偏差，涉及因果與關聯知識的「為什麼（Why）」類型問題在主流資料集中佔比不足 1.3%。這導致既有方法即便在因果推理遺忘上失敗，仍能獲得高分。由於這類問題涉及多跳推理鏈與長達 40.1 個詞元的答案跨度，傳統方法往往在激進遺忘（導致保留知識受損）與保守處理（無法抹除因果事實）之間掙扎。

Method

研究團隊開發了 5WBENCH，這是一個包含 5,000 個樣本的平衡基準，均勻分配給 5W 類別（Who, What, When, Where, Why）。同時提出 MAAT（多階段適配器感知目標遺忘）框架，專注於 LoRA 適配器權重操作。該框架結合了梯度投影上升、SVD 奇異值分解秩維度剪枝、任務向量取反，以及混合 KL 散度與隱藏狀態的保留修復技術。

Results

實驗證明，MAAT 是首個能在「為什麼」型因果知識上，同時實現高遺忘率與高保留率的方法。在 5WBENCH 的評測下，MAAT 成功突破了現有基準模型的限制，在遺忘與保留的 Pareto 前沿（Pareto frontier）上達到全新的操作點，有效解決了因果知識難以精確抹除的難題。

Significance

此研究首次將因果知識遺忘量化，填補了機器遺忘領域的評估空白。透過 5WBENCH 與 MAAT 框架，開發者能更精準地管理大型語言模型中的敏感或錯誤資訊，確保模型在移除特定知識時，不會損害其原有的推理能力與學識，對提升 AI 安全性與隱私保護具有重要貢獻。