Problem

目前的企業問答(Enterprise QA)系統主要依賴文件檢索與回答生成,但企業日常紀錄中的關鍵組織關係(如職位隸屬或跨部門聯繫)往往是隱含在異質資料中的「隱性關係」。現有的基準測試多偏向於已知事實的組合,缺乏測試模型從零碎資訊中推導並復原目標組織關係的能力,即「隱性組織推理」。

Method

研究團隊開發了 ENTLORE 框架,透過整合日常文件、官方組織表與營運紀錄,重構出一個經過稽核的企業模型世界。該框架利用版本化的組織慣例在事實圖譜(Truth Graph)中驗證衍生關係,並發布了包含 2,341 份文件與 907 個問題的去識別化資料集,涵蓋顯性查詢、跨來源組合及隱性組織推理等多種維度。

Results

在 56 種模型與配置的評估中發現,即使提供正確的原始文件,仍有 30.4% 的隱性推理問題無法被正確回答,而顯性問題與組合問題的錯誤率僅分別為 12.6% 與 6.2%。實驗證明,若將釋出的資料轉化為可導航的實體圖譜或知識庫,能讓系統在佈署時獲得最佳表現。

Significance

此項研究強調了企業問答系統不能僅依賴傳統的文件召回率。研究結果指出,如何將隱含於企業內部的組織關係轉化為可用的結構化知識,是提升企業級 AI 應用實用性的關鍵。ENTLORE 為衡量與開發這類進階推理能力提供了重要的公開基準。