CLaRa：通过连续潜在推理连接检索与生成
CLaRa: Bridging Retrieval and Generation with Continuous Latent Reasoning
摘要
CLaRa（连续潜在推理）是一个在共享连续空间中执行基于嵌入的压缩与联合优化的统一框架，旨在解决RAG（检索增强生成）中长上下文及检索与生成优化脱节的问题。该框架引入SCP（一种基于问答与释义的关键保留数据合成框架），通过生成语义丰富且可检索的压缩向量，减少输入LLM（大型语言模型）生成器的文档长度。
检索增强生成（RAG）通过外部知识增强了大型语言模型（LLM），但仍面临长上下文以及检索与生成优化脱节的问题。本文提出CLaRa（连续潜在推理），这是一个在共享连续空间中执行基于嵌入的压缩与联合优化的统一框架。为获得语义丰富且可检索的压缩向量，从而减少输入生成器的文档长度，我们引入了SCP——一种基于问答与释义的关键保留数据合成框架。
译自 Apple · ML Research · 录于 二〇二六年七月十六日