上下文工程(10):RAG 信息的注入策略
RAG(RetrievalAugmented Generation,检索增强生成)链路里最容易被高估的一环是检索,最容易被低估的一环是注入。Agent 系列第 14~18 篇用五篇篇幅讲怎么把资料捞回来——切块、嵌入、混…
# 标签
共 178 篇文章
RAG(RetrievalAugmented Generation,检索增强生成)链路里最容易被高估的一环是检索,最容易被低估的一环是注入。Agent 系列第 14~18 篇用五篇篇幅讲怎么把资料捞回来——切块、嵌入、混…
主 Agent 回答"这个接口的超时重试在哪实现"要付出什么代价?grep 三个关键词命中 800 行,顺着命中读了 20 个文件,再 grep 一轮确认调用方——最终答案是 200 token 的一句话,过程却烧掉近 …
《上下文工程》系列前几篇反复点名同一个嫌疑人:工具结果。第 2 篇/post/1589的实测账本里,24 条日志 JSON 组成的工具结果吃掉了 73% 的窗口;第 4 篇/post/1591的预算拆账又把它确认为单轮成…
跑过长任务的 Agent 都经历过"失忆三连":追问三小时前定下的口径,它翻不出来;压缩刚过,再问某个关键路径,它一脸茫然;会话重启,一切归零从头再来。对话历史看起来是记忆,其实是块易失介质——会被压缩、会腐烂、会随会话…
第 5 篇/post/1592讲 compaction 时,所有算式都建立在一个隐含前提上:token 越少越省钱。这个前提在 2026 年要打折扣——主流 API 的 Prompt Caching(提示词缓存)把"重复…
跑过长会话 Agent 的人都见过状态栏上那行 "Context left until autocompact: 32%"。一个排查了 40 分钟的 bug,历史消息里堆满了文件内容、命令输出和试错的工具调用,上下文窗口…
上下文工程系列前三篇讲的都是"往上下文里放什么":窗口的物理极限、token 的计量方式、系统提示的信息架构。这一篇换一个视角——不先问放什么,先问放得起多少。Agent 的每一轮请求都是一张账单:system 提示、工…
上篇解剖上下文窗口时留了一个尾巴:窗口里这么多内容,到底哪一块对模型行为的塑造力最强?答案朴素得近乎无聊——系统提示(system prompt)。用户消息一轮一换,工具结果用完即弃,检索片段随问题变化,只有系统提示从第…
上一篇《上下文工程全景》把结论立在了范式层:上下文工程的核心,是把模型的上下文窗口当作稀缺资源来经营。但"经营"的前提是先懂账——窗口里装的到底是什么、按什么单位计价、为什么塞得越多效果反而越差。这一篇从范式下钻到物理层…
《AI Agent 开发》系列 30 篇讲的是"怎么把 Agent 搭起来":工具调用、RAG、记忆、规划,零件一一到位。但真把 Agent 放进生产环境跑长任务,问题就来了——跑着跑着开始"失忆",重复犯过的错,忽略早…

Tavily 详解:给 Agent 的实时联网搜索 APILLM 的知识有截止日期,Agent 要干活就得联网——这就是 Tavily 切入的赛道:一个安全 API 让 AI Agent 实时访问 Web,搜索、抽取、结构化、分块一步完成,Agent 拿到的不是一堆链接而是可直接推理的事实。它是这个赛道的头部商业产品:200 万+ 开发者在用,月请求量 3 亿+,p50 延迟 180ms 自称市场
第 29 篇/post/1576讲部署,Agent 从脚本变成服务,系列的工具箱到那一篇就齐了。但工具箱不等于项目:29 篇文章各自解决一个问题,还没有一次在同一个程序里合体。本篇是《AI Agent 开发》系列第 30…
第 28 篇/post/1575给 Agent 装上了护栏,功能、评测、安全三关都过了,但它还住在你的笔记本里:langgraph dev 一关,服务就没了。生产化的最后一公里,是把一个 Python 进程变成 7×24…
第 27 篇/post/1574把 Agent 变成了可测量的系统:轨迹可评测、调用可复盘。但"可测量"回答的是干得好不好,本篇回答一个更冷的问题:被攻击时,损失能控制在多大。Agent 手里有工具、循环里有自主性、生态…
到第 25 篇/post/1572为止,这个系列把 Agent 开发的工程地基打完了:工具调用、图编排、RAG、MCP、记忆、多 Agent,一路到框架选型。本篇是系列第 26 篇/post/1573、第五模块"进阶架构…