RAG 与向量数据库：让大模型说人话、查事实

大模型「一本正经胡说八道」是其落地的最大障碍。RAG（检索增强生成）配合向量数据库，让模型基于私有知识回答问题，是当下企业 AI 化的标配方案。

RAG 的工作原理

用户提问 → 向量化 → 在知识库中检索最相关片段 → 拼入 Prompt → 大模型生成回答。简单四步，即可让模型引用真实文档而非凭空捏造。

向量数据库怎么选

• 开源：Milvus、Qdrant、Weaviate、Chroma。
• 云服务：Pinecone、Zilliz Cloud、阿里云 DashVector。
• 数据库内嵌：PostgreSQL pgvector、Elasticsearch dense_vector。

选择取决于数据规模、延迟要求与运维能力。

进阶：从朴素 RAG 到 Agentic RAG

朴素 RAG 一次检索就出答案，复杂问题容易答错。Agentic RAG 让模型自主决定「要不要再查」「查哪个库」「问几次」，显著提升复杂任务准确率。

评估与监控

RAG 系统需要回答三件事：检索召回率、答案忠实度、引用准确率。RAGAS、ARES 等自动化评估工具正在成为新标配。

未来：多模态 + 知识图谱融合

纯向量检索适合模糊语义，强结构化关系需要知识图谱补足。Hybrid RAG 与 GraphRAG 是 2026 年的两个明确方向。