智能体二次开发:ai_agent入门

现代Agent的定义

最小定义:

现代 Agent = LLM + 上下文 + 工具

再加上三层约束

Agent = LLM + [上下文 + 工具 + 约束 + 验证 + 纠正] = Model + Harness

实现组件 作用 核心原则
LLM 大脑 /
Context(上下文) 眼睛 信息充分性:让 Agent 在每个决策点都基于足够的信息判断
Tools(工具) 手脚 接口清晰:工具命名直观、参数有例子、边界有说明
Constrain(约束) 设定行为边界 故障安全默认值:所有能力默认关闭,必须显式开放
Verify(验证) 自动判断操作结果的对错 输入隔离:安全检查只看结构化数据(如工具返回的 JSON 字段),而不是模型自由生成的文本(因为攻击者可能通过提示注入操纵模型输出)
Correct(纠正) 发现问题时自动修正或回退 在确认无法恢复之前,不暴露中间态(例如工具调用失败时先静默重试,不将半成品结果展示给用户)

上下文

上下文分为:

静态前缀轨迹
系统提示词、工具定义用户消息、模型回复、工具执行结果

按照消融实验,缺少后会出现以下影响

上下文窗口示例:

消息的四种角色

system系统提示词
user用户消息
assistant助手消息
tool工具结果

此外

工具定义作为请求的独立字段(而非消息),告诉模型有哪些工具可以使用、每个工具接受什么参数。

注意力机制

注意力储存池序列的第一个 token 往往吸收了异常高的注意力权重,有时超过总注意力的 70%
思考的三角形模式模型思维链展现出三角形状的自注意力模式——生成新的思考内容时频繁“回看”之前的思考内容和工具定义
输出的三角形模式思考结束后的输出过程展现出另一个三角形,模型用思考过程作为提示来输出回答
位置偏好模型对上下文开头和结尾的信息分配了更高的注意力,中间部分则更容易被忽视。因此,在设计上下文时,把最关键的信息放在开头或结尾是一项重要的实践原则

提示词工程

语气与风格“You MUST answer concisely with fewer than 4 lines”系统提示词的“人格”过度使用会导致效果被稀释,应保留给真正关键的约束。
结构化提示XML 和 Markdown 系统提示词的“格式”XML 负责机器可解析的精确语义,Markdown 负责人机共读的组织逻辑。
流程驱动 vs 规则堆砌标准操作流程(SOP) 系统提示词的“组织方式”针对人类降低认知负担的方法,对大语言模型同样有效
业务规则细化将决策规则明确到可执行的程度系统提示词的“内容”将规则准确地编码到提示词中,确保格式正确、结构清晰,但不应擅自决定业务逻辑
Few-shot 示例给出两三个高质量的输入-输出示例给模型看例子两三个精心挑选、覆盖边界情况的示例,通常胜过十个大同小异的示例

缓存

KV Cache模型内部的机制——在一次推理过程中,缓存已计算的 token 的键值对,避免重复计算
Prompt Cache推理引擎的优化——跨多次 API 请求之间,缓存相同前缀的计算结果用固定前缀的提示词即可

常见的错误上下文管理模式

动态系统提示词在系统提示词中嵌入时间戳
动态用户配置在每次请求中更新用户的状态信息
工具定义的动态排序根据使用频率动态调整工具的顺序
滑动窗口(Sliding Window)对话历史只保留最近几条消息来控制上下文长度
文本格式化方法把结构化的 role-content 消息转换为 “USER: … ASSISTANT: …” 这样的纯文本流

ReAct 循环

Agent 执行任务的核心模式叫做 ReAct(Reasoning + Acting)。想-做-看-想-做-看….

编排模式

模式描述用途
工作流模式确定性的编排确定的流程
自主 Agent动态自主决策不确定的流程

护栏

输入侧在请求到达 Agent 之前拦截相关性分类器
安全分类器
内容审核
基于规则的保护
标记偏离主题的查询 规则驱动、上下文来拟合判断、两级筛查
检测越狱
标记有害或不当的输入
采用确定性措施,包括黑名单、输入长度限制、正则表达式过滤器
执行侧在工具调用时验证工具风险评级
输出侧在响应返回用户之前检查PII 过滤器
输出验证
审查输出中的个人身份信息(如身份证号、手机号)
通过内容检查确保回复与品牌价值一致
人工干预让 Agent 在无法完成任务时优雅地转移控制权超过失败阈值
高风险操作
为 Agent 的重试次数或操作次数设置上限。
涉及敏感、不可逆或高风险的操作时,应触发人工监督

该主题尚不存在

您访问的页面并不存在。如果允许,您可以使用创建该页面按钮来创建它。

  • 智能体二次开发/ai_agent入门.1786520403.txt.gz
  • 最后更改: 2026/08/12 15:40
  • 由 张叶安