每个术语回答两件事:是什么、有什么用。详见 列指向本文档中的讲解位置。
LLM 基础
| 术语 | 是什么 | 作用 | 详见 |
|---|
| LLM | 大语言模型,基于海量文本训练的生成模型 | 应用的推理引擎,LangChain 所有模块围绕「调用它」组织 | 简介 |
| token | LLM 计量文本的单位(英文约 4 字符折 1 个,汉字 1~2 个) | API 计费、上下文窗口容量都按它计量 | 聊天模型 |
| 上下文窗口 | 单次调用能塞进 prompt 的最大 token 数 | 超限就要切分、检索、摘要 | RAG 原理 |
| temperature | 采样温度,控制输出随机性 | 事实型任务调低,创作型调高 | 配置 |
| 消息角色 | 每条消息的身份:system / human / ai / tool | system 定规则,human 是输入,ai 是回复,tool 是工具结果 | 聊天模型 |
| few-shot | 在 prompt 里放正反示例代替规则描述 | 模型模仿示例比理解规则更稳 | 输出解析器 |
| 幻觉 | 模型一本正经地编造事实 | RAG、结构化输出、约束型 prompt 主要治理的问题 | RAG 原理 |
| 流式输出 | 模型逐段生成、应用逐段消费 | 首字延迟从秒级降到接近实时 | LCEL |
| OpenAI 兼容 API | 遵循 OpenAI 接口规范的第三方服务 | 换 base_url 和 Key 即接入 | 配置 |
| provider | 模型服务商(OpenAI、Anthropic 等) | 区分「厂商 API 层知识」与「框架层知识」 | Function Calling |
LangChain 与编排
| 术语 | 是什么 | 作用 | 详见 |
|---|
| LCEL | 基于 Runnable + pipe 的编排方式 | 声明式组链,从原型到生产不改代码 | LCEL |
| Runnable | 统一的可执行抽象 | 接口统一(invoke/batch/stream),任何模块可互换、可嵌套 | LCEL |
| pipe | 把上游输出接给下游输入的组链方法 | 以数据流方向读代码 | LCEL |
| chain | 用 pipe 串起来的多步调用链 | 把固定流程封装成一个可调用单元 | LCEL |
| PromptTemplate | 带变量的字符串模板 | 把写死的 prompt 变成可复用骨架 | Prompt 模板 |
| ChatPromptTemplate | 带消息角色的模板 | 构造 system/human/ai 消息序列 | Prompt 模板 |
| MessagesPlaceholder | 消息数组插槽 | 把历史消息整体注入模板 | Prompt 模板 |
| partial | 预填模板部分变量 | 分阶段构造 prompt,函数形式惰性求值 | Prompt 模板 |
| 输出解析器 | 把模型返回转成程序可用结构的模块 | 模型输出是文本,程序要的是对象、数组 | 输出解析器 |
| with_structured_output | 模型方法,传 schema 得校验后的对象 | 1.x 结构化输出首选 | 输出解析器 |
| pydantic | Python 数据建模与校验库(v2) | 一处定义,既生成给模型的约束,又校验程序拿到的类型 | 输出解析器 |
| fallback | 主链失败自动切备用链的机制 | 限流、故障时的降级路径 | LCEL |
| LangSmith | 官方调用追踪与评估平台 | 记录每次调用的输入输出耗时 | 配置 |
| Callbacks / Tracing | 挂在调用过程的钩子,记录输入输出与耗时 | 调试、评估、观测调用链 | LCEL |
| LangGraph | 把执行过程建模为状态图的编排框架 | 1.x 中 agent、记忆、循环控制的底座 | LangGraph 基础 |
RAG
| 术语 | 是什么 | 作用 | 详见 |
|---|
| RAG | 检索增强生成:回答前先检索相关知识注入 prompt | 治理幻觉、知识过时、私域缺失 | RAG 原理 |
| Document | 统一文档对象:page_content 加 metadata | 任何数据源加载后形态一致 | 文档加载器 |
| metadata | Document 的附属字段 | 检索过滤、答案溯源 | 文档加载器 |
| Loader | 把特定数据源转成 Document 列表的类 | 屏蔽抓取细节,一行完成加载标准化 | 文档加载器 |
| chunk | 切分后的文档块 | RAG 的最小检索单元 | 文本切分 |
| Embedding | 把文本映射成向量的模型 | 让「语义相近,向量相近」可计算 | 向量存储 |
| 余弦相似度 | 两个向量夹角的余弦值 | 检索时给候选块打分排序的度量 | RAG 原理 |
| vector store | 存向量并支持近邻查询的数据库 | 把「与所有向量算相似度」做成毫秒级查询 | 向量存储 |
| Retriever | 查询接口:输入 query,返回 top-k 个 Document | 把「怎么检索」抽象成统一接口,可替换任意策略 | 检索与优化 |
| top-k | 返回最相关的前 k 条(常取 2~5) | 平衡上下文长度与召回量 | RAG 原理 |
| 问题改写 | 用 LLM 把带代词的追问重写成独立问题 | 解决多轮指代导致的检索失效 | 部署 |
记忆与 Agent
| 术语 | 是什么 | 作用 | 详见 |
|---|
| checkpointer | 按线程持久化 agent 消息状态的组件 | 记忆的存储层:多轮对话、断点恢复 | 记忆系统 |
| thread_id | 传入 configurable 的线程标识 | 一个线程一份独立记忆 | 记忆系统 |
| middleware | 模型调用前后的消息加工钩子 | 记忆的加工层:裁剪、摘要、删除 | 记忆系统 |
| SummarizationMiddleware | 历史超阈值时自动摘要旧消息 | 长对话 token 膨胀的标准解法 | 记忆系统 |
| Function Calling | 模型返回「调哪个函数、什么参数」的协议 | 让 LLM 安全地用你的代码 | Function Calling |
| tool() | 定义工具的装饰器:签名加 docstring 即 schema | 函数、说明、参数约束一处声明 | Function Calling |
| tool_choice | 控制调用行为:auto / any / 工具名 / none | 放权给模型或强制结构化输出 | Function Calling |
| tool_calls | AIMessage 上的工具调用列表 | LangChain 返回的 args 已是对象 | Function Calling |
| Agent | LLM 作为推理引擎,自主循环调用工具直到解决 | 突破固定 chain 的流程上限 | Agent |
| create_agent | 1.x 创建 agent 的主 API | 一个入口配齐模型、工具、指令、记忆 | Agent |
| return_direct | 工具结果直接作为最终答案返回 | 路由式多 agent,省一次模型调用 | Agent |
| recursion_limit | 限制 LangGraph 图最大超步数(默认 25) | agent 死循环的兜底保险 | Agent |