AI Agents:完整课程

@sairahul1
英语2个月前 · 2026年5月24日
212K
528
85
19
1.2K

TL;DR

深入探讨构建和扩展 AI Agents,详细介绍任务分解、多 Agent 系统、评估策略以及成本和安全性等生产挑战。

所有人都在谈论 2026 年的 AI 智能体。

但大多数人其实并不了解它们是如何工作的。

今天,这一切都将改变。

我花了几周时间,潜心提炼了所有相关内容:课程、书籍、实际构建案例、生产环境下的失败教训。

以下是你真正需要知道的内容。

无论你是要自动化自己的工作流程,还是为公司构建生产级的 AI 系统,这都是你的路线图。

收藏好。内容很长,但绝对值。

第一部分:入门 AI 智能体究竟是什么

1. 什么是 AI 智能体?

Rahul - inline image

一个普通的 LLM 只做一件事:

你提问。它回答。结束。

一次性。线性。无迭代。

AI 智能体的工作方式则不同。

它的工作方式,就像你处理难题时一样:

→ 先规划 → 研究 → 草拟 → 自我审查 → 修改 → 重复

这就是所谓的 ReAct 循环:

思考 → 行动 → 观察 → 重复

模型会思考下一步该做什么。采取行动(通常是通过调用工具)。观察结果。然后要么给你答案,要么循环回去。

为什么这很重要?

每多一次循环,就能增加深度。更强的推理能力。更少的幻觉。更好的组织性。

那些一次性尝试会丢失的所有东西——智能体都能帮你找回来。

2. 智能体究竟擅长什么?

Rahul - inline image

并非所有任务都需要智能体。

正确的思维模型:一个 2×2 矩阵。

坐标轴:复杂度 vs. 需要的精确度。

→ 低复杂度 + 高精确度 = 直接用代码 → 低复杂度 + 低精确度 = 直接用单次 LLM 提示词 → 高复杂度 + 高精确度 = 带有严格护栏的智能体(税表、法律文件) → 高复杂度 + 低精确度 = 最佳起点

最后一个象限是你的最快早期胜利。

适合智能体的完美任务示例:

→ 研究并撰写报告

→ 回复客户邮件(查找订单 → 草拟回复)

→ 处理发票 → 保存到数据库

→ 通过实际检查库存来回答“你们有 80 美元以下的蓝色牛仔裤吗?”

当任务需要以下条件时,智能体大放异彩:

→ 多个步骤

→ 外部信息

→ 迭代和自我修正

如果能用一个提示词解决——就不要构建智能体。

3. 自主性光谱

Rahul - inline image

构建智能体时的第一个重大决策:

你给它多少控制权?

把它想象成一个光谱。

脚本化(左端)你硬编码每一个步骤。

→ 生成搜索词 → 调用网络搜索 → 获取页面 → 撰写文章。

模型只做文本生成。其他一切由你决定。可预测。易于调试。但有局限性。

半自主(中间)智能体从你定义的工具中选择。在你设定的护栏内做决策。这是大多数真实生产系统所在的位置。

完全自主(右端)LLM 决定一切。搜索什么。获取多少页面。是否要反思。是否要编写并运行新代码。更强大。也更难控制。

你应该从哪里开始?

光谱的中间位置。给它工具。设置护栏。只有在你获得信心后,再增加自主性。

4. 上下文工程

Rahul - inline image

以下才是真正让智能体变得“智能”的关键。

这并非仅仅取决于模型本身。

而是你围绕它构建的上下文。

上下文工程 = 决定智能体在每一时刻拥有的信息。

这包括:

→ 背景 — 任务是什么,用户是谁

→ 角色 — “你是一个专门从事市场分析的研究智能体”

→ 记忆 — 在之前的步骤中发生了什么

→ 可用工具 — 它可以调用哪些函数

→ 知识 — 它可以参考的文档、数据库、PDF 文件

做好这个上下文工程 → 模型表现一致。

做不好 → 输出不可预测的垃圾内容。

模型本身在两种情况下是一样的。

上下文决定了智能体是出色的还是糟糕的。

5. 任务分解

Rahul - inline image

构建智能体时最重要的技能。

从这个问题开始:人类会如何完成这个任务?

然后,对每一步提问:LLM 能做到这一点吗?一小段代码呢?一次 API 调用呢?

如果答案是否定的 → 那就把它拆分成更小的步骤,直到答案是肯定的为止。

示例 — 文章撰写智能体:

  1. 大纲 → LLM 生成结构
  2. 搜索词 → LLM 生成,然后调用搜索 API
  3. 获取页面 → 工具调用
  4. 撰写草稿 → 使用获取的资料来源的 LLM
  5. 自我批评 → LLM 列出差距和弱点
  6. 修改 → 基于批评意见重写的 LLM

每一步都应该是:→ 小 → 可检查 → 有清晰的输入和输出

当最终输出不佳时,你能确切地知道该修复哪一步。

这就是分解的超级力量。

第二部分:中级 构建实际可用的多智能体系统

6. 评估(将专家与爱好者区分开来的平凡事)

Rahul - inline image

没人想谈论评估。

但每一个发布了实际系统的人都会做。

你如何衡量你的智能体是否正常工作?

简单的任务 → 统计正确答案。客服机器人正确回答了库存问题吗?是/否。

复杂的任务 → 使用 LLM 作为评委。让第二个模型使用固定的评分标准,对输出进行 1-5 分的评分。文章论点有力吗?引用了正确的来源吗?语气对吗?

你需要的两个评估层次:

→ 组件级 — 每个单独的步骤是否正常工作?(搜索查询是否足够具体?批评是否传递了真实的反馈?)

→ 端到端 — 最终输出是否良好?(文章真的好吗?)

如果端到端失败但组件级评估通过 → 交接问题。如果某个特定组件失败 → 那个智能体需要改进。

从第一天就开始评估。不要等到拥有一个“完美”的评估系统。快速交付一些东西并迭代。

7. 记忆与知识

Rahul - inline image

两个截然不同但人们常混淆的东西。

记忆 = 动态的。每次运行都会更新。

→ 短期记忆:智能体在工作时记笔记。其他智能体可以阅读这些笔记。 → 长期记忆:完成任务后,智能体进行反思。哪些做得好?哪些不好?存储经验教训。

下次运行时 → 加载这些经验教训 → 应用它们。

这就是你在不进行微调的情况下“训练”智能体的方法。给予反馈 → 智能体在每次运行中改进。

知识 = 静态的。提前加载。

→ PDF 文件、CSV 文件、内部文档、数据库访问权限 → 智能体的参考库 → 一次性提供。它可以在需要准确答案时随时从中提取。

这样理解:

记忆 = 你从经验中学到的东西。知识 = 你可以参考的教科书。

两者都很重要。一个不能替代另一个。

8. 护栏

Rahul - inline image

一个能工作的智能体,并不代表它是一个安全的智能体。

LLM 是非确定性的。

它们可能格式出错、陈述错误事实、偏离任务。

护栏是介于“智能体说它做完了”和“任务实际完成”之间的质量闸门。

三种类型:

类型 1 — 代码检查(快速 + 低成本)用于确定性的事情。 → 输出格式正确吗?长度合适吗?必要的字段都存在吗?写一个简单的验证函数。立即运行它。尽可能优先使用这种方式。

类型 2 — LLM 评委用于细微的质量检查。 → “这个回复与源文档在事实上一致吗?” → “语气专业且积极吗?” 如果评委说“不行”→ 解释原因 → 智能体修改 → 再次尝试。

类型 3 — 人工介入用于高风险的决策。智能体在最终确定前停止。将输出发送给人工审查。人工批准、拒绝或要求修改。

大多数生产系统至少使用这三种中的两种。

  1. 提升每个智能体的 4 种设计模式
Rahul - inline image

这四种模式能可靠地让智能体变得更好。

模式 1:反思

不要停留在初稿阶段。

模型产生输出 → 批评它 → 基于批评重写。

邮件 v1:“嘿,我们下个月见。谢谢。” 批评:日期模糊,无署名,语气太随意。 邮件 v2:“嗨 Alex,我们 1 月 5-7 日见。告诉我你什么时候方便。此致,Sai。”

在代码方面更强大 — 编写它,运行它,捕获错误,反馈,模型修复。

用于:结构化输出、长篇写作、代码、程序性步骤。

模式 2:工具使用

给 LLM 一个它可以调用的函数菜单。

模型决定何时以及使用哪个工具。

网络搜索。数据库查询。代码执行。日历。电子邮件。API 调用。

LLM 独自做不了这些事。工具是智能体与世界交互的方式。

模式 3:规划

不要用固定的流水线,而是让智能体决定步骤。

给它一个工具包。提示它制定计划。一步一步执行。

零售示例:“有 100 美元以下的圆形太阳镜吗?” 智能体计划:搜索描述 → 检查库存 → 按价格筛选 → 回答。

你没有脚本化那些具体步骤。智能体自己选择了它们。

模式 4:多智能体协作

将复杂的工作拆分给专门的智能体。

研究员 → 设计师 → 撰稿人。

每个智能体都非常擅长其特定工作。由于没有一个智能体试图包揽一切,输出结果会更好。

10. 多智能体系统设计

Rahul - inline image

你如何实际构建一个多智能体系统?

四种协调模式,从最简单到最复杂。

模式 1:顺序式每个智能体完成后 → 将输出传递给下一个智能体。就像一条装配线。研究员 → 设计师 → 撰稿人 → 完成。易于调试。可预测。从这里开始。

模式 2:并行式同时运行独立的智能体。研究员和设计师同时工作。撰稿人整合他们的输出。速度更快。协调复杂性更高。

模式 3:管理者层级一个管理者智能体协调专家。管理者规划、委派、审查。专家向管理者汇报,而不是互相汇报。这是当今真实生产系统中最常见的模式。

模式 4:全员互通任何智能体可以向任何其他智能体发送消息。混乱。难以预测。仅适用于允许变化的创意/低风险工作。不要在生成环境中使用。

经验法则:从顺序式开始。只在需要时增加复杂性。

第三部分:生产 如何从原型到实际部署

11. 高级任务分解

Rahul - inline image

在复杂的多智能体系统中,分解方式至关重要。

4 种模式:

功能分解 — 按技术领域拆分。前端智能体。后端智能体。数据库智能体。工程团队的经典模式。

空间分解 — 按文件或目录结构拆分。智能体 1 处理 /services/users/。智能体 2 处理 /services/orders/。适用于大型代码库。最大限度地减少冲突。

时间分解 — 按顺序阶段拆分。阶段 1:研究。阶段 2:规划。阶段 3:构建。阶段 4:发布。每个阶段完成后进入下一阶段。

数据驱动分解 — 按数据分区拆分。智能体 1 处理第 1 周日志。智能体 2 处理第 2 周。依此类推。适用于大型数据集。并行分析。

你可以混合使用这些模式。

主结构使用功能分解,每个智能体内部再使用时间分解。

使用任何与任务自然边界相符的方式。

12. 提高生产环境中的质量

Rahul - inline image

系统能工作但还不够好。

有两种类型的组件。两种不同的修复策略。

非 LLM 组件(网络搜索、RAG、OCR、代码执行):

→ 调整参数:搜索日期范围、top-k 结果数、块大小、相似度阈值 → 更换提供商:尝试不同的搜索 API、视觉模型、解析器

LLM 组件(生成、推理、提取):

→ 改进提示词:添加约束、示例、输出模式 → 尝试不同的模型:有些模型更擅长代码,有些更擅长遵循指令 → 将更困难的任务分解成更小的部分 → 微调(仅作为最后手段 — 成本高,留到最后几%的提升)

顺序很重要。

先修复提示词。然后尝试不同的模型。再进一步分解。最后才微调。

大多数团队在第二步就能达到足够好的质量。

13. 延迟与成本

Rahul - inline image

质量优先。然后是速度和成本。

降低延迟:

  1. 衡量每一步。找到真正的瓶颈。
  2. 并行化任何不依赖于其他步骤的操作。
  3. 合适的模型大小 — 简单步骤用快速廉价的 LLM,推理用大模型。
  4. 尝试更快的提供商 — Token 流式传输速度差异很大。
  5. 精简上下文 — 更短的提示词解码更快。

降低成本:

一个典型研究智能体运行的实际成本分解:

→ LLM 生成调用:约 $0.04 → 网络搜索 API 调用:约 $0.02 → 嵌入(Embedding)调用:约 $0.005 → 基础设施:约 $0.015 → 每次运行总计:约 $0.08

按每天 1,000 次运行计算 = $80/天 = $2,400/月。

如何削减成本:

→ 首先攻克最大的成本项 → 分层模型 — 简单的用便宜的,困难的用贵的 → 积极缓存结果(搜索结果、嵌入、摘要) → 约束输出(“返回 JSON。最多 5 个字段。”) → 尽可能进行批量操作

14. 可观测性:大规模监控你的智能体

Rahul - inline image

传统软件:追踪执行路径。A 调用 B。B 调用数据库。返回结果。

AI 智能体的工作方式不同。

它们是非确定性的。相同输入 → 不同输出。分布式执行。可能失败的外部依赖。

你需要两种可见性:

放大指标(单次运行调试)→ 完整追踪:每个提示词、每次工具调用、每个使用的 Token → 智能体为什么选择这个工具? → 每一步返回了什么? → 在哪个环节确切失败了?

不仅要记录发生了什么,还要记录为什么:“智能体选择网络搜索而非 RAG,因为查询包含‘最近’”“反思识别出 3 个问题:缺少引用、日期模糊、语气错误”

缩小指标(跨多次运行的系统健康度)→ 质量评分随时间变化 → 幻觉率 → 成功率 → 变更是在帮助还是损害?

你无法大规模手动检查每个追踪记录。

使用质量采样 — 评估一定百分比的所有运行。建立趋势线。

这就是如何在用户发现之前捕捉性能回退(regression)。

15. 安全性:没人谈论(但应该谈论)的部分

Rahul - inline image

AI 智能体的安全性与传统应用安全性不同。

你不仅要防范外部攻击者。

你还要保护自己,防止你自己的系统做出危险的决定。

威胁包括:

→ 提示注入 — 用户输入中的恶意内容劫持智能体的指令 → 不安全的代码生成 — 智能体编写的代码访问敏感数据或执行有害操作 → 数据泄露 — 通过输出或工具调用暴露个人身份信息(PII)或专有信息 → 资源耗尽 — 智能体陷入无限循环或消耗昂贵的 API 调用

代码执行是最危险的功能。

如果你启用它,请按以下方式安全操作:

→ 在 Docker 中沙盒化。每次运行后销毁容器。 → 设置严格的资源限制:超时时间、内存上限、CPU 限制 → 仅白名单特定的安全库 → 验证所有输入,使其在到达智能体之前得到检查 → 扫描所有输出中是否包含敏感数据(API 密钥、PII) → 使用确定性 I/O — 代码向用户返回结构化的 JSON,而非自由格式的文本

大多数团队都是通过惨痛教训才学会这些的。

在你部署之前,请先阅读这部分。

以上就是完整的课程。

回顾

入门:→ 智能体迭代地工作 — 规划、行动、观察、重复 → 最适合能接受约 90% 准确率的复杂多步骤任务 → 从半自主开始,而非完全自主 → 上下文工程是真正的智能核心 → 任务分解是最重要的技能

中级:→ 从第一天开始评估 — 复杂任务使用 LLM 作为评委 → 记忆(动态)≠ 知识(静态) → 三种护栏类型:代码 → LLM 评委 → 人工 → 总是有用的 4 种模式:反思、工具使用、规划、多智能体协作 → 从顺序式开始。只在需要时增加协调复杂性。

生产:→ 4 种分解模式:功能、空间、时间、数据驱动 → 先改进提示词,再进行微调 → 衡量每一步的延迟和成本,然后攻克最大的问题 → 两种可观测性模式:放大追踪 + 缩小健康指标 → 安全性 = 防范自己的系统,而不仅仅是外部攻击者

大多数人在构建智能体。

但很少有人能部署出大规模可靠运行的智能体。

差距就在这篇文章的所有内容之中。

如果这篇文章对你有帮助:

→ 转发分享 → 关注 @sairahul1 获取更多类似的分析 → 收藏它 — 你在构建时会经常参考

我撰写关于 AI 系统、产品构建以及在你睡觉时也能工作的自动化的内容。

一键保存

使用 YouMind AI 深度阅读爆款文章

保存原文、追问细节、总结观点,并在一个 AI 工作空间里把爆款文章沉淀成可复用笔记。

了解 YouMind
写给创作者

把你的 Markdown 变成干净的 𝕏 文章

图片上传、表格、代码块,往 𝕏 上手动重排太痛苦。YouMind 把整篇 Markdown 一键转成干净、可直接发布的 𝕏 文章草稿。

试试 Markdown 转 𝕏

更多可拆解样本

近期爆款文章

探索更多爆款文章