//针对小型 LLM 的高效 KG 推理// LightPROF 是一个轻量级框架，它使小规模语言模型能够使用结构化提示对知识图谱 (KG) 执行复杂的推理。 主要亮点： • 检索-嵌入-推理管道——LightPROF 引入了三阶段架构： - 检索：使用语义感知的锚实体和关系路径从大型 KG 中稳定地提取紧凑的推理图。 - 嵌入：新颖的知识适配器将推理图中的文本和结构信息编码为 LLM 友好的嵌入。 - 原因：这些嵌入被映射到软提示中，这些软提示被注入到聊天式硬提示中以指导 LLM 推理，而无需更新 LLM 本身。 • 即插即用且参数高效——LightPROF 仅训练适配器和投影模块，允许与任何开源 LLM（例如 LLaMa2-7B、LLaMa3-8B）无缝集成，而无需进行昂贵的微调。 • 优于大型模型——尽管使用小型 LLM，LightPROF 在 KGQA 任务上仍胜过 StructGPT（ChatGPT）和 ToG（LLaMa2-70B）等基线：在 WebQSP 上为 83.8%（vs. 72.6 %) ，在 CWQ 上为 59.3%（vs. 57.6 %) 。 • 极致效率——与 StructGPT 相比，LightPROF 将 token 输入减少了 98%，运行时间减少了 30%，同时即使在复杂的多跳问题中也能保持准确性和稳定的输出。 • 消融洞察——删除结构信号或训练步骤会严重降低性能，证实了知识适配器和检索策略的关键作用。
