跳转到主要内容

LangChain

01 · 简介

定位、八大抽象总览、0.x 迁移对照、10 分钟跑通第一次调用

  • LangChain
  • Python

本节速览

这一节的每一块内容,分别是干什么的:

内容是干什么的
LangChain 是什么大模型应用开发框架,把模型调用、prompt、解析、编排、记忆、RAG、Agent 抽象成可组合的模块
八大抽象总览每个抽象解决什么问题、核心 API 是什么、在哪一节讲
1.x 相对 0.x 的变化旧写法废弃了什么、换成什么,老项目迁移对照
快速上手10 分钟写第一行代码,跑通第一次模型调用

LangChain 是构建大模型应用的开发框架。它把 LLM 应用里重复的工程环节抽象成可组合的模块:模型调用、prompt 管理、输出解析、链式编排、记忆、检索增强(RAG)、Agent。你在应用里做的是挑选模块、用管道拼装,而不是每个环节从零实现。

解决什么问题

直接调用模型 API 写应用,会反复遇到同一批问题:

  • prompt 散落在代码里,改一处要动多处;
  • 模型返回的是复杂对象,每次都要手动提取和解析;
  • 换一家模型厂商,调用代码要重写;
  • 重试、超时、降级、流式输出,每个应用各写一套;
  • 多轮对话的历史管理、RAG 的检索链路,各自都要造轮子。

LangChain 把这些环节标准化。所有模块实现同一个 Runnable 接口,用 pipe 任意拼装;换模型只换一个类,链路代码不动。

核心抽象总览

LangChain 用八个核心抽象组织全部功能。这张表是整份文档的地图,每一行都有对应章节展开:

抽象解决什么问题核心 API详见
Models统一调用不同供应商的模型,换厂商不改调用代码ChatOpenAI、ChatAnthropic04
Messages用统一结构表达 system、human、AI、tool 消息SystemMessage、HumanMessage、AIMessage、ToolMessage04
Prompts管理提示词模板和变量填充PromptTemplate、ChatPromptTemplate06
Tools把函数、API、数据库、搜索等能力暴露给模型或 Agent@tool、bind_tools15、17
Output Parsers / Structured Output把模型输出解析成 JSON、pydantic 对象或业务结构StrOutputParser、with_structured_output07
Retrievers根据查询返回相关文档,RAG 的检索接口as_retriever、MultiQueryRetriever11、12
Agents让模型在工具循环中推理、选择工具、读取结果并完成目标create_agent17
Callbacks / Tracing记录调用链路,便于调试、评估和观测set_debug、LangSmith05

1.x 相对 0.x 的变化

读旧教程或 AI 生成的代码时,先对照这份清单:

0.x 写法(已废弃)1.x 写法
从 langchain 单体包或 langchain_community 导入加载器、FAISS仍从 langchain-community 导入,类名与参数基本不变;langchain-classic 里的同名导入是弃用转发层
AgentExecutor + create_react_agentcreate_agent,构建在 LangGraph 上
Memory 类家族(ConversationBufferMemory 等)checkpointer + middleware
RunnableWithMessageHistory 包装器create_agent(checkpointer=...) + thread_id
StructuredOutputParser、强制 tool_choice 拿结构with_structured_output(schema)
max_iterationsrecursion_limit(invoke 配置)
切分器默认 chunk_size 1000默认 4000(chunk_overlap 仍为 200)

拿「多轮对话带记忆」做对照,感受两套写法的差别:

# 0.1.x 写法(已废弃)
from langchain_openai import ChatOpenAI   # OpenAI 聊天模型
import os   # 读取环境变量
from dotenv import load_dotenv   # 从 .env 读环境变量

load_dotenv()

llm = ChatOpenAI(
    base_url=os.environ["GLM_BASE_URL"],
    api_key=os.environ["GLM_API_KEY"],
    model=os.environ["GLM_MODEL_ID"],
)

from langchain.chains import ConversationChain
from langchain.memory import ConversationBufferMemory

chain = ConversationChain(llm=llm, memory=ConversationBufferMemory())
chain.predict(input="我叫小明")

# 1.x 写法
from langchain.agents import create_agent   # 创建 agent
from langgraph.checkpoint.memory import InMemorySaver   # 内存版记忆持久化

agent = create_agent(llm, checkpointer=InMemorySaver())
agent.invoke(
    {"messages": [{"role": "user", "content": "我叫小明"}]},
    {"configurable": {"thread_id": "1"}},
)

快速上手:跑通第一次调用

安装最小依赖并配置 Key。完整的安装清单见第 02 节,模型服务接入的细节见第 03 节。

pip install "langchain>=1.0,<2.0" "langchain-openai>=1.0,<2.0" python-dotenv

项目根目录创建 .env,写入你的 Key:

OPENAI_API_KEY=sk-xxx

用 GLM 等 OpenAI 兼容服务的 Key,不能只换变量名。 ChatOpenAI 默认连 api.openai.com,兼容服务必须连同 base_url 和 model 一起传,否则请求会一直卡在建立连接上:

from langchain_openai import ChatOpenAI   # OpenAI 聊天模型
import os   # 读取环境变量

model = ChatOpenAI(
    base_url="https://open.bigmodel.cn/api/paas/v4",   # 智谱的接口地址
    api_key=os.environ["GLM_API_KEY"],
    model="glm-4-flash",   # 模型名以服务方文档为准
)

第一次调用:

import os   # 读取环境变量

from dotenv import load_dotenv   # 从 .env 读环境变量
from langchain_core.messages import HumanMessage   # 用户消息
from langchain_openai import ChatOpenAI   # OpenAI 聊天模型

load_dotenv()

model = ChatOpenAI(
    base_url=os.environ["GLM_BASE_URL"],
    api_key=os.environ["GLM_API_KEY"],
    model=os.environ["GLM_MODEL_ID"],
)
result = model.invoke([HumanMessage("讲一个程序员笑话")])

print(result.content)

把模板、模型、解析器用 pipe 串成一条链;invoke 换成 stream 就是流式输出:

from langchain_core.output_parsers import StrOutputParser   # 提取纯文本
from langchain_core.prompts import ChatPromptTemplate   # 带角色的消息模板
import os   # 读取环境变量

from dotenv import load_dotenv   # 从 .env 读环境变量
from langchain_openai import ChatOpenAI   # OpenAI 聊天模型

load_dotenv()

model = ChatOpenAI(
    base_url=os.environ["GLM_BASE_URL"],
    api_key=os.environ["GLM_API_KEY"],
    model=os.environ["GLM_MODEL_ID"],
)

prompt = ChatPromptTemplate.from_messages([
    {"role": "system", "content": "你是一个资深 Python 工程师,回答简洁。"},
    {"role": "human", "content": "{question}"},
])
chain = prompt.pipe(model).pipe(StrOutputParser())

print(chain.invoke({"question": "装饰器是什么"}))

for chunk in chain.stream({"question": "装饰器是什么"}):
    print(chunk, end="", flush=True)

到这里调用就通了。invoke 返回什么、消息结构是什么见第 04 节;pipe 背后的 Runnable 见第 05 节;让输出变成 JSON 见第 07 节。


下一节:环境与安装