大家好，检索增加生成是大模型时代非常火热的概念，今天，就让我们一起了解一下这门技术。

检索增强生成概述

检索增强生成 『Retrieval-Augmented Generation，RAG』这个方法，旨在利用信息检索的手段去辅助大模型生成更高质量的回答，具体分为两个阶段。

第一阶段检索，利用用户的 query 去检索最相关的 k 个文档；第二阶段生成，将用户的 query 和相关的文档和提示词模板进行封装，输入到大模型中，获取大模型的回答。

检索阶段通常使用向量模型将文本转换为 embedding，并利用向量数据库进行存储这些 embedding。在用户查询时，利用向量的相似度检索去召回最相近的 k 个文本片段。

如果，有不了解 embedding 的可以查看之前的文章：

向量数据库主要有 chroma、milvus、qdrant、faiss、weaviate 等。常见的向量模型有 m3e、bge 以及 text2vec 等。

在生成阶段可以使用如下的提示词模板：

<指令>根据已知信息，简洁和专业的来回答问题。如果无法从中得到答案，请说 “根据已知信息无法回答该问题”，不允许在答案中添加编造成分，答案请使用中文。</指令>

<已知信息>{context}</已知信息>

<问题>{question}</问题>

RAG 技术常用的技术栈：

这门技术应用十分广泛，我们平时常见的知识问答机器人、智能助理、角色扮演的应用都是基于 RAG 的方案进行实现的。

检索增强技术的优势

LLM 本身具有一定的局限性，主要有以下两个主要的问题：

LLM 虽然会根据我们的输入进行输出，但有的时候模型输出的结果会包含一些事实性的错误，这种情况就好像是一个人触发了自己的幻觉一样，因此也被称为大模型的幻觉问题。
LLM 的参数量巨大，一个最小的 6B 模型就是 60 亿的参数，模型更新的成本很高，传统的预训练加微调的方法就没办法及时更新模型参数，导致模型学习不到最新的知识。按照 ChatGPT 的迭代和更新速度，知识的时间至少比现实时间晚了半年以上。

RAG 通过引入外部知识，能有效缓解大模型的幻觉问题，并且只需要通过更新外部知识库就可以达到学习新知识的目的，避免了频繁更新 LLM 的时间和成本。

好啦，今天的分享就到此结束了，你学废了嘛？

新增福利，欢迎查收！

永久免费星球『算法·成长·一人企业』，在这里我会高频输出和算法，个人成长，副业相关的知识以及资源分享，欢迎围观~，微信扫码就可以加入。

END

好了，今天的分享就到这里，希望对你有所帮助。

你的每一个『点赞』，都是鼓励我进步的勇气，点个『在看』，加油吧，一起成长！

来交个朋友

我是雨飞，一名工作 6 年的算法工程师，目前在探索大模型应用编程以及搜推算法。未来的愿景是做 AI 算法时代的引路人，致力于带领 AI 小白入门和学习算法。

在这个充满机遇与挑战的时代，能让我们一起成长，满帆迎接 AI 时代，让未来的日子，不再平庸。同时，践行终身学习的理念，也尝试在职场外探索副业和人生的第二曲线。

欢迎，扫码或者添加微信 10606087688 和我做朋友，一起成长进步。

ITPub博客

通往AGI之路：检索增强生成入门