LangChain+LangGraph+Agent+RAG：LLM应用开发从入门到知识库问答实战

LangChainLangGraphAgent

于 2026-08-30 04:03:13 修改

·本内容遵循CC 4.0 BY-SA版权协议

最近在技术社区里，LangChain、LangGraph、Agent、RAG 这几个词几乎成了 LLM 应用开发的“标配四件套”。但很多同学学完 LangChain 的基础示例之后，一旦要落地真实项目，就会发现官方文档里的 Demo 根本撑不起生产环境：链式调用太死板、Agent 调度不可控、知识库检索效果差。市场上资料又极其零散，有的只讲概念，有的只贴代码，缺少一条从入门到企业级实战的完整路线。

这篇文章就是按照“一个月吃透 LLM 应用开发”的思路整理的一套闭环学习方案，涵盖 LangChain 核心用法、LangGraph 图编排、Agent 开发、RAG 知识库构建，最后用 FastAPI 封装成一个可运行的本地知识库问答系统。内容偏实战，每段代码都可以直接复制运行，适合刚入门 LLM 开发的同学，也适合想系统化梳理 Agent 工程化的后端开发者。

1. 背景：为什么说这是 LLM 应用开发绕不开的四件套

1.1 四个概念分别解决什么问题

先别急着写代码，把这四个词放在同一个坐标系里理解，后面会少走很多弯路。

LangChain 是一个 LLM 应用开发框架，它把“调用模型、拼提示词、解析输出、管理记忆、连接外部工具”这些高频操作封装成标准组件。你可以把它理解成 LLM 开发领域的“Spring Boot”，解决的是应用开发的工程化问题。

LangGraph 是建立在 LangChain 之上的编排框架。LangChain 早期提供的 Chain（链）是线性结构，但在真实业务里，一个复杂的 AI 应用往往有条件分支、循环、人工介入、多角色协作，线性链路根本表达不了。LangGraph 用图（Graph）来组织执行流程，节点（Node）负责干活，边（Edge）决定流转方向，解决的是流程可控性问题。

Agent（智能体）指的是让大模型具备“思考 → 调用工具 → 根据结果继续思考”的循环能力。它不再是一次性问答，而是能拆解任务、选择工具、执行动作、观察结果、最终给出答案。解决的是模型自主行动问题。

RAG（Retrieval-Augmented Generation，检索增强生成）是把外部知识库和 LLM 结合的方法。先根据用户问题检索出相关文档片段，再把这些片段作为上下文交给模型生成回答。解决的是模型知识过时和幻觉问题。

1.2 它们之间的关系

一句话总结它们的关系：

RAG 是知识供给方案，Agent 是任务执行范式，LangGraph 是流程编排引擎，LangChain 是基础设施框架。

一个企业级项目通常是这样的：用 LangChain 接入模型和工具，用 LangGraph 编排整个问答流程，在流程中加入 Agent 节点实现工具调用，在检索环节接入 RAG 知识库。四者不是互相替代的关系，而是层层叠加、各司其职。

有不少人问“LangChain 是不是过时了？”答案是：框架本身在演变，但它的组件抽象思路仍然值得学。即使在 LangGraph 项目中，你依然要大量使用 LangChain 的模型封装、Prompt 模板、文档加载器和向量库集成。与其纠结哪个框架“新”，不如先把组件能力和编排思想搞清楚。

1.3 学完这篇你能掌握什么

理解 LangChain 的核心组件：模型、Prompt、输出解析器、记忆。
理解 LangGraph 的状态图模型，能写条件路由和循环。
掌握 Agent 的基本原理，能自定义 Tool 并交给 Agent 调用。
掌握 RAG 完整链路：加载 → 切分 → 向量化 → 存储 → 检索 → 生成。
完成一个基于 LangGraph + Agent + RAG + FastAPI 的可运行项目。

2. 环境准备与版本说明

2.1 基本环境要求

LLM 开发环境相对简单，本文示例环境如下：

依赖	推荐版本	说明
Python	3.10+	3.10 及以上对类型注解支持较好
langchain	1.x	版本迭代快，以 pip 安装为准
langchain-openai	最新	OpenAI 兼容接口封装
langgraph	0.2+	图编排框架
langchain-chroma	最新	Chroma 向量库适配层
fastapi	0.110+	Web 服务框架
uvicorn	0.30+	ASGI 服务器

需要特别说明：LangChain 的 API 在 1.x 版本前后有过多次调整，不同小版本的导入路径可能不同。比如旧版本中 langchain.llms.OpenAI 这类写法在新版本已经迁移到了独立包 langchain-openai 中。建议以你实际安装版本的官方文档为准，本文重点演示实现思路。

2.2 安装依赖

创建一个虚拟环境并安装依赖：

BASH

python -m venv venv

source venv/bin/activate # Windows 使用 venv\Scripts\activate

pip install langchain langchain-openai langchain-core langgraph langchain-chroma langchain-text-splitters langchain-community fastapi uvicorn pypdf

如果你的网络环境无法访问 OpenAI 接口，或者出于数据安全考虑需要使用本地模型，可以参考 2.3 节配置兼容接口。

2.3 模型服务准备

本文示例采用 OpenAI 兼容接口，所以无论你用的是 OpenAI、通义千问、智谱、DeepSeek 还是本地 Ollama，只要服务暴露的是 /v1/chat/completions 格式的接口，都可以通过 ChatOpenAI 统一接入。

以本地 Ollama 为例，先启动服务并拉取一个对话模型：

BASH

ollama serve

ollama pull qwen2.5:7b

然后在代码中指定 base_url 指向本地地址：

PYTHON

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(

model="qwen2.5:7b",

base_url="http://localhost:11434/v1",

api_key="ollama", # 本地服务不校验 key，占位即可

temperature=0.2,

)

如果是调用云端模型，把 base_url 和 api_key 换成对应平台的配置即可。建议把 API Key 放到环境变量里，不要写死在代码中：

BASH

export OPENAI_API_KEY="sk-xxxx"

export OPENAI_API_BASE="https://api.example.com/v1"

3. LangChain 快速入门：模型、提示词、输出解析与记忆

3.1 模型调用

LangChain 对各家大模型做了统一封装，你不需要关心底层 SDK 的差异。最基础的使用方式如下：

PYTHON

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(

model="qwen2.5:7b",

base_url="http://localhost:11434/v1",

api_key="ollama",

)

resp = llm.invoke("用一句话介绍什么是 RAG")

print(resp.content)

注意：invoke 返回的是 AIMessage 对象，真正的文本内容在 .content 属性里。这是 LangChain 1.x 和旧版本最大的习惯差异——以前很多示例直接打印 llm("问题")，新版本统一走 invoke 接口。

ChatOpenAI 中常用的参数有：

temperature：控制随机性，数值越高回答越发散，知识库问答建议 0~0.3。
max_tokens：限制生成长度。
timeout：请求超时时间，生产环境必须设置，避免模型服务卡死导致接口挂起。
streaming：是否流式输出，Web 场景通常开 True。

3.2 提示词模板

生产环境中不太可能直接裸调模型，你需要把用户输入嵌入到业务指令中。ChatPromptTemplate 用来做这件事：

PYTHON

from langchain_core.prompts import ChatPromptTemplate

prompt = ChatPromptTemplate.from_messages([

("system", "你是一个严谨的技术客服，回答必须简洁准确，不要编造事实。"),

("human", "用户问题：{question}"),

])

chain = prompt | llm

result = chain.invoke({"question": "什么是向量数据库？"})

print(result.content)

ChatPromptTemplate 支持 system、human、ai 三种角色消息，花括号里的内容是变量占位符。核心优势是提示词和业务代码分离，需要调整语气或规则时直接改模板，不用动代码。

3.3 输出解析器

模型返回的是字符串，但业务系统往往需要结构化数据。StrOutputParser 是最常用的输出解析器，作用是直接从模型输出中提取字符串：

PYTHON

from langchain_core.output_parsers import StrOutputParser

chain = prompt | llm | StrOutputParser()

result = chain.invoke({"question": "什么是 RAG？"})

print(result) # 直接是字符串

最低 0.47元/天开通会员,解锁全文

成为会员后, 你将解锁

下载资源随意下

优质VIP博文免费学

优质文库回答免费看

付费资源9折优惠

大语言模型（Large Language Model, ）作为当前人工智能领域最具颠覆性与实用性的技术方向之一，已深度渗透至自然语言处理、智能编程、知识图谱、多模态交互、企业级AI助手、教育智能化、金融风控、医疗、法律辅助等数十个关键行业。所谓“零基础学习路线”，并非指完全不需任何前置知识的“无门槛速成”，而是面向具备基本计算机素养（如了解操作系统概念、能使用命令行、理解文件与目录结构、有初步逻辑思维能力）但未接触过机器学习、深度学习或NLP的初学者所设计的一套系统性、渐进式、工程闭环的学习路径。该路线以“认知—筑基—突破—开发—深耕”五阶跃迁为骨架，强调从思维范式转变出发，逐步构建数学直觉、算法理解、框架实操、模型调优、系统集成与垂直领域落地的全栈能力。第一阶段“认知重塑与思维准备”是整条路线的底层基石。它要求学习者彻底摆脱传统软件开发中“确定性逻辑精确输入输出”的线性思维，转而接纳概率建模、统计泛化、不确定性推理、上下文依赖、涌现能力等特有范式。需深入理解Transformer架构为何成为事实标准——其自注意力机制如何实现长距离语义建模，位置编码如何赋予序列顺序感知，前馈网络与残差连接如何保障梯度稳定传播；同时需厘清预训练（Pre-training）、有监督微调（SFT）、奖励建模（RM）与强化学习人类反馈（RLHF）四阶段范式的演进逻辑与内在耦合关系。此阶段还需建立对算力本质的认知GPU显存带宽与计算密度如何制约模型规模，FP16/BF16/INT4量化如何在精度与效率间权衡，分布式训练中的数据并行、张量并行、流水线并行如何协同降低单卡负载。第二阶段“基础技能筑基”聚焦硬核工具链搭建。涵盖Python高级特性（生成器、装饰器、异步IO）、Linux系统管理（Shell脚本编写、进程监控、日志分析）、Git协作规范（分支策略、PR评审、冲突解决）、Docker容器化部署（镜像构建、卷挂载、端口映射）、CUDA生态（nvcc编译、nvidia-smi诊断、cuBLAS调用原理）。数学方面需掌握线性代数（矩阵分解、特征值意义）、概率论（贝叶斯定理、KL散度、交叉熵）、微积分（链式法则在反向传播中的具象体现）及信息论基础（困惑度Perplexity的定义与评估价值）。必须动手完成PyTorch张量操作全流程从autograd引擎原理到手动实现Linear层前向/反向传播，再到用nn.Module封装Transformer Block，从而打通“数学公式→代码实现→运行验证”的认知闭环。第三阶段“核心突破与初阶”进入模型内核深水区。需精读Hugging Face Transformers源码，剖析AutoTokenizer分词流程（Byte-Pair Encoding/BPE子词切分、特殊token作用、padding/truncation策略），解读AutoModel加载机制（config.json解析、权重映射、lazy loading优化），复现LoRA低秩适配器注入过程（将全参数微调的ΔW∈ℝ^(d×d)近似为A∈ℝ^(d×r)·B∈ℝ^(r×d)，r≪d），并在Llama-2-7b上完成Alpaca格式指令微调。典型项目包括基于构建本地系统（PDF解析→文本分块→嵌入向量存储→相似性检索→Prompt工程增强→流式响应生成），实现（Retrieval-Augmented Generation）完整链路。第四阶段“与进阶深化”强调工程化交付能力。涵盖FastAPI高并发API封装（依赖注入、中间件鉴权、OpenAPI文档自动生成）、服务编排（vLLM/PagedAttention内存优化推理服务器部署、Triton推理后端集成）、提示词工程工业化（PromptFlow可视化编排、Few-shot模板库管理、Guardrails内容安全过滤）、模型评估体系构建（MT-Bench多维度打分、ToxiGen毒性检测、Hallucination Rate人工评测协议）。需掌握QLoRA（Quantized LoRA）在消费级显卡上微调70B模型的技术细节，理解FlashAttention-2如何通过IO感知算法减少HBM访问次数，实践DPO（Direct Preference Optimization）替代RLHF的简化偏好对齐方案。第五阶段“领域深耕与未来视野”推动技术纵深发展。需研究MoE（Mixture of Experts）稀疏激活机制在Qwen2-MoE中的实现，分析Speculative Decoding（推测解码）如何通过草稿模型加速主模型推理，追踪MLLM（Multimodal ）如Qwen-VL、LLaVA-NeXT的图文对齐范式，探索框架（状态机、AutoGen多智能体协作）在复杂任务分解中的应用边界。同步关注底层创新RWKV的RNN式状态空间建模、Mamba的SSM（State Space Model）替代注意力、Phi-3微型模型在端侧部署的可行性。最终形成可复用的技术方法论如何为特定业务场景定义评估指标（如客服场景的首次解决率FSR、金融研报场景的事实一致性得分FCR）、如何设计AB测试验证模型迭代效果、如何构建持续学习闭环（在线反馈收集→bad case归因→增量微调→灰度发布）。整条路线绝非纸上谈兵，所有模块均对应真实可运行代码——即压缩包中CgayhuWGizFjzxVOtXPs-master-d56952d97badfbd24450b127230e61bc425ad429目录下的完整工程实践集合，包含Jupyter Notebook教学案例、CLI工具脚本、Docker Compose编排文件、配置化训练管道（YAML定义数据集/超参/回调）、标准化模型服务接口（OpenAI兼容RESTful API）。学习者须坚持每日代码实操，每完成一阶段即产出GitHub可展示项目（含README技术说明、环境部署指南、效果截图与量化指标），方能在算法岗、AI工程岗、MLOps工程师、智能产品解决方案架构师等高价值岗位竞争中建立不可替代性。这不仅是技能升级，更是一场面向AGI时代的认知升维革命。

与是当前大语言模型（）领域最具代表性的两大开源框架，二者虽同属AI工程化基础设施层，但在设计理念、抽象层级、运行范式与适用场景上存在本质性差异，构成了现代栈中“通用编排”与“有状态智能体协同”的双轨体系。作为最早成熟且生态最完善的框架，其核心价值在于提供一套高度模块化、可组合、可插拔的抽象组件库，将调用这一底层能力封装为标准化接口，从而大幅降低开发者在数据预处理、提示工程、链式调用、记忆管理、工具集成等环节的重复造轮成本。其典型组件包括文档加载器（Document Loaders）支持从PDF、Word、网页、数据库、Notion、GitHub等数十种异构数据源无缝接入；文本分割器（Text Splitters）实现语义感知的分块策略（如RecursiveCharacterTextSplitter、MarkdownHeaderTextSplitter），保障向量检索质量；向量存储与检索器（VectorStore Retriever）对接Chroma、FAISS、Pinecone等主流向量数据库，并支持HyDE、-Fusion等高级检索增强技术；链式执行器（Chains）如LLMChain、SequentialChain、RouterChain等，允许开发者以声明式方式定义多步骤推理流程；记忆组件（Memory）涵盖ConversationBufferMemory、ConversationSummaryMemory、EntityMemory等，支撑上下文感知的长对话建模；工具集成层（Tools & Agents）则通过Tool Calling机制桥接外部API、Python函数、SQL执行器乃至自定义服务，使具备真实世界操作能力。正因如此，天然适配轻量级、任务边界清晰、无强状态依赖的AI应用——例如基于架构的智能客服系统，可快速集成企业并实现精准意图识别与答案生成；又如自动化报告生成器，通过Chain串联文档解析、关键信息抽取、多源内容融合与风格化重写；再如个性化学习助手，借助Memory维持用户画像与历史交互轨迹，动态调整推荐策略。而的诞生，则是对在复杂系统建模能力上局限性的战略补位。当AI应用从单点任务跃迁至需长期记忆、多角色协作、动态决策闭环、异常处理与流程回溯的“智能体操作系统”层级时，传统链式（Chain-based）或代理式（-based）线性执行范式便显露出结构性瓶颈无法显式表达条件分支、循环重试、状态持久化、跨节点消息广播、事件驱动触发等关键能力。由此提出“图即程序（Graph as Program）”的全新范式，将整个AI工作流建模为有向图（Directed Acyclic Graph 或支持环路的 General Graph），其中节点（Node）代表原子计算单元（如调用、工具执行、状态校验、人工审核），边（Edge）则定义控制流逻辑（如条件跳转、错误重定向、聚合分流）。尤为关键的是，引入了全局可变状态（State）对象，该状态在图执行过程中被所有节点共享与更新，支持任意粒度的状态快照、版本追踪与回滚恢复，从而原生支撑任务管理系统中的进度看板、审批流中的多级会签、监控告警系统中的事件聚合与因果链分析等高阶场景。其内置的检查点（Checkpointing）机制可将状态序列化至PostgreSQL、SQLite或自定义后端，确保故障后精确续跑；而递归执行引擎（Recursive Executor）则赋予图结构自我演化能力——节点可动态修改图拓扑、注入新节点或重定向边，实现真正的“AI自主编排”。典型应用包括金融风控智能体集群，多个专业（反洗钱、信用评估、合规审查）在统一图调度下协同完成贷款申请全流程；工业IoT预测性维护平台，传感器事件触发状态图迁移，自动启动诊断链、调用仿真模型、生成维修工单并通知工程师；科研协作智能体网络，依据论文引用关系与作者贡献度动态构建知识图谱，并支持多智能体辩论、共识提炼与报告自动生成。值得注意的是，并非的替代品，而是与其深度兼容——的Chain、、Tool均可直接封装为的Node，二者常以“构建原子能力，组织智能体协作”的方式协同使用，形成从组件到系统的完整AI工程方法论。这种分层解耦的设计哲学，标志着大模型正从“功能拼装”迈向“系统建构”，为构建可信、可控、可演化的下一代人工智能基础设施奠定了坚实基础。