Counterfactual Reasoning for Retrieval-Augmented Generation

摘要

虽然检索增强生成（ RAG ）具有高级知识密集型任务，但我们发现了一个基本漏洞：关联陷阱。现有系统无法区分因果决定性证据和绝大多数相关但具有误导性的信息，从而导致系统性故障。我们引入了反事实RAG （ CF-RAG ） ，这是一个新的框架，用于操作因果推理以克服这一局限性。 CF-RAG系统地生成和评估反事实查询，以确定因果相关的区别，并采用并行仲裁机制，在不受干扰的情况下协调相互矛盾的证据。在具有挑战性的基准上， CF-RAG大大提高了针对相关性陷阱的鲁棒性，实现了最先进的性能，同时保持了与标准RAG模型相当的效率。