Pisces: Cryptography-based Private Retrieval-Augmented Generation with Dual-Path Retrieval

摘要

在处理特定领域的任务时，检索增强生成（ RAG ）可提高大型语言模型（ LLM ）的响应质量，但会引发严重的隐私问题。这是因为用户查询和知识库中的文档通常都包含敏感或机密信息。 为了解决这些问题，我们提出了$\ texttt {Pisces} $ ，这是第一个实用的基于加密的RAG框架，支持双路径检索，同时保护查询和文档。沿着语义检索路径，我们通过利用从粗到细的策略来减少计算和通信开销。 具体地说，一种新颖的遗忘过滤器用于私下选择候选文档集，以减少后续余弦相似性计算的规模。对于词法检索路径，为了减少重复调用标记PSI的开销，我们实现了一种多实例标记PSI协议，以在单次执行中计算BM25评分的术语频率。 $\ texttt {Pisces} $还可以与现有的保护隐私的LLM推理框架集成，以实现端到端的隐私。实验表明， $\ texttt {Pisces} $在1.87%的范围内实现了与明文基线相当的检索准确率。