ICLR 2026 论文列表

尽管检索增强生成（ RAG ）通过检索外部知识库和集成生成的内容显着提高了生成质量，但它面临计算效率瓶颈，特别是在涉及Tree-RAG分层结构的知识检索任务中。 本文提出一种基于改进布谷鸟滤波器的Tree-RAG加速方法，在检索过程中优化实体定位，实现显著的性能提升。Tree-RAG通过引入层次树结构有效地组织实体，而Cuckoo Filter则作为支持快速成员资格查询和动态更新的高效数据结构。 实验结果表明，我们的方法比基线方法快得多，同时保持了高水平的生成质量。例如，我们的方法比DART数据集上的朴素Tree-RAG快800%以上。我们的工作可在https://github.com/TUPYP7180/CFT-RAG-2025上找到。

多模态数据集对于广泛的应用至关重要，但在实践中，它们往往缺少模态。这激发了缺失模态完成（ MMC ）的任务，该任务旨在从可用模态中重建缺失模态，以充分利用多模态数据。 虽然预训练的生成模型提供了一个自然的解决方案，但将它们直接应用于特定领域的MMC通常是无效的，并且微调受到限制，例如有限的完整样本、受限的API访问和高成本。为了解决这些问题，我们提出了RAG4DMC ，这是一个用于数据级MMC的检索增强生成框架。 RAG4DMC从完整的数据集内样本和外部公共数据集构建双知识库，并通过特征对齐和基于聚类的过滤进行增强，以缓解模式和域转移。然后，将模式内检索与跨模式融合相结合的多模式融合检索机制为指导生成提供相关上下文，然后是连贯完成的候选选择机制。 在一般和特定领域数据集上的大量实验表明，我们的方法产生了更准确和语义一致的缺失模态完成，从而大大改善了下游图像文本检索和图像字幕任务。

检索增强生成（ RAG ）通过动态整合外部知识来增强大型语言模型（ LLM ）的推理能力，从而减轻幻觉并加强结构化数据（如图形）的上下文基础。 尽管如此，大多数现有的文本图的RAG变体都集中在低维结构上--将节点视为实体（ 0维） ，将边或路径视为成对或顺序关系（ 1维） ，但忽略周期，这对于关系循环的推理至关重要。这种循环经常出现在需要对相似物体或相对位置进行闭环推断的问题中。 这种局限性通常会导致不完整的上下文基础和有限的推理能力。在这项工作中，我们提出了拓扑增强检索增强生成（ TopoRAG ） ，这是一种用于文本图问答的新框架，可以有效地捕获更高维的拓扑和关系依赖关系。 具体来说， TopoRAG首先将文本图提升到细胞复合体中，以对多维拓扑结构进行建模。利用这些提升的表示，提出了一种拓扑感知子复杂检索机制来提取与输入查询相关的蜂窝复合体，从而提供紧凑且信息丰富的拓扑上下文。 最后，多维拓扑推理机制在这些复合体上运行，以传播关系信息并指导LLM执行结构化的逻辑感知推理。实证评估表明，我们的方法在不同的文本图形任务中一直超过现有的基线。

Agentic Retrieval-Augmented Generation （ RAG ）是一种强大的技术，可以整合大型语言模型（ LLM ）缺乏的外部信息，从而更好地解决问题和回答问题。然而，次优搜索行为广泛存在，例如过度搜索（检索已知信息）和搜索不足（必要时无法搜索） ，从而导致不必要的开销和不可靠的输出。 目前的训练方法通常依赖于强化学习（ RL ）框架中基于结果的奖励，缺乏解决这些低效问题所需的细粒度控制。为了克服这个问题，我们引入了$\ textbf {Hi} $ erarchical $\ textbf {P} $ rocess Rewards for Efficient agentic $\ textbf {RAG} $ (HiPRAG) ，这是一种新颖的培训方法，将细粒度、基于知识的过程奖励融入到RL培训中。 我们的方法通过将客服代表的推理轨迹分解为离散的、可解析的步骤，即时评估每个搜索决策的必要性。然后，我们应用分层奖励函数，该函数根据最优搜索和非搜索步骤的比例，在常用的结果和格式奖励之上提供额外的奖励。 在七个不同QA基准的Qwen2.5和Llama-3.2模型上进行的实验表明，我们的方法达到了65.4\ % （ 3B ）和67.2\ % （ 7B ）的平均准确度，优于强大的代理RAG基线。这在显著提高搜索效率的同时实现，将过度搜索率从先前工作的27\ %以上降至仅2.3\ % ，同时降低了搜索不足率。 这些结果证明了优化推理过程本身的有效性，而不仅仅是最终结果。进一步的实验和分析表明， HiPRAG在广泛的RL算法、模型族、大小和类型中显示出良好的泛化性。这项工作展示了通过RL进行细粒度控制的重要性和潜力，以提高搜索代理推理的效率和最优性。

在处理特定领域的任务时，检索增强生成（ RAG ）可提高大型语言模型（ LLM ）的响应质量，但会引发严重的隐私问题。这是因为用户查询和知识库中的文档通常都包含敏感或机密信息。 为了解决这些问题，我们提出了$\ texttt {Pisces} $ ，这是第一个实用的基于加密的RAG框架，支持双路径检索，同时保护查询和文档。沿着语义检索路径，我们通过利用从粗到细的策略来减少计算和通信开销。 具体地说，一种新颖的遗忘过滤器用于私下选择候选文档集，以减少后续余弦相似性计算的规模。对于词法检索路径，为了减少重复调用标记PSI的开销，我们实现了一种多实例标记PSI协议，以在单次执行中计算BM25评分的术语频率。 $\ texttt {Pisces} $还可以与现有的保护隐私的LLM推理框架集成，以实现端到端的隐私。实验表明， $\ texttt {Pisces} $在1.87%的范围内实现了与明文基线相当的检索准确率。

虽然检索增强生成（ RAG ）具有高级知识密集型任务，但我们发现了一个基本漏洞：关联陷阱。现有系统无法区分因果决定性证据和绝大多数相关但具有误导性的信息，从而导致系统性故障。我们引入了反事实RAG （ CF-RAG ） ，这是一个新的框架，用于操作因果推理以克服这一局限性。 CF-RAG系统地生成和评估反事实查询，以确定因果相关的区别，并采用并行仲裁机制，在不受干扰的情况下协调相互矛盾的证据。在具有挑战性的基准上， CF-RAG大大提高了针对相关性陷阱的鲁棒性，实现了最先进的性能，同时保持了与标准RAG模型相当的效率。

检索增强生成（ RAG ）被广泛用于通过利用外部知识来减轻大型语言模型（ LLM ）的幻觉。传统的RAG系统虽然对简单的查询有效，但却与信息分散的大规模非结构化语料库作斗争。最近的进步结合了知识图来捕获关系结构，从而为复杂的多跳推理任务实现更全面的检索。 然而，现有的基于图的RAG （ GraphRAG ）方法依赖于不稳定且昂贵的关系提取来构建图，通常会产生具有不正确或不一致关系的噪声图，从而降低检索质量。 在本文中，我们重新审视了现有GraphRAG系统的管道，并提出了基于线性图的检索增强生成（ LinearRAG ） ，这是一个实现可靠图构建和精确通道检索的高效框架。具体来说， LinearRAG构建了一个无关系的层次图，称为Tri-Graph ，仅使用轻量级实体提取和语义链接，避免了不稳定的关系建模。 这种新的图形构建范式与语料库大小线性扩展，无需额外的代币消耗，为原始通道提供了经济可靠的索引。对于检索， LinearRAG采用两阶段策略： （ i ）通过局部语义桥接激活相关实体，然后（ ii ）通过全局重要性聚合进行通道检索。 在四个基准数据集上的广泛实验表明， LinearRAG显著优于基线模型。我们的代码和数据集可在https://github.com/DEEP-PolyU/LinearRAG上获得。

尽管最近取得了进展，但大型语言模型（ LLM ）仍然会生成易受攻击的代码。检索增强生成（ RAG ）具有通过整合外部安全知识来增强LLM以实现安全代码生成的潜力。然而，传统的RAG设计难以应对原始安全相关文档的噪音，现有的检索方法忽略了任务描述中隐含的重要安全语义。 为了解决这些问题，我们提出了\ textsc {Rescue} ，这是一个新的RAG框架，用于安全代码生成，具有两项关键创新。首先，我们提出了一种混合知识库构建方法，该方法将LLM辅助的集群-然后-总结蒸馏与程序切片相结合，生成高级安全指南和简洁的、以安全为中心的代码示例。 其次，我们设计了一个层次化的多方面检索，从上到下遍历构建的知识库，并在每个层次上集成多个安全关键事实，确保全面准确的检索。我们在四个基准上评估了\ textsc {Rescue} ，并将其与六个LLM的五种最先进的安全代码生成方法进行了比较。 结果表明，\ textsc {Rescue}将SecurePass @ 1指标平均提高了4.8分，从而建立了全新的最先进的安全性能。此外，我们进行了深入的分析和消融研究，以严格验证\ textsc {Rescue}中单个组件的有效性。我们的代码位于\ url {https://github.com/steven1518/RESCUE}。