
Anthropic SDK 提示缓存
第 5 篇/post/1689算过一笔账:每轮新增 1000 token 的轻量对话,用 claudesonnet55 跑 100 轮,光输入就累计 10.10 美元——Messages API 无状态,历史每轮全量重发…
# 标签
共 144 篇文章

第 5 篇/post/1689算过一笔账:每轮新增 1000 token 的轻量对话,用 claudesonnet55 跑 100 轮,光输入就累计 10.10 美元——Messages API 无状态,历史每轮全量重发…

第 5 篇/post/1689结尾预告的主题到了:让模型先想再答。前五篇的所有调用都没有传过任何与思考有关的参数——这不是遗漏,而是从当前这代模型起,思考默认就是开着的;教学模型 claudesonnet55 上真正要回…

第 4 篇/post/1691把工具调用滚成了循环,而循环能一直转的前提,是每一轮请求都带着完整的对话历史——Messages API 无状态,服务端不保存任何一次调用的现场,模型“记得你说过什么”,完全是因为你的代码把…

第 3 篇/post/1696把工具的"定义"讲完了:tools 参数声明工具名、描述与参数模式,tool_choice 控制模型用不用它。但那一步结束时,模型只是"开口要了工具"——真正把工具跑起来、把结果送回去、让对…

前两篇拿回的都是自然语言:第 1 篇/post/1688的第一次调用返回一段解释,第 2 篇/post/1695让这段话逐字上屏。可真实工程里,模型的输出多数时候不是给人读的,而是给程序用的——分类结果要落进布尔分支,抽…

第 1 篇/post/1688的第一次调用已经跑通:create 发出请求,等模型把整段回复生成完,一次性拿回完整消息。这个过程里屏幕是静止的——回复越长,静止越久,几百 token 的答案要干等十几秒才整块出现。流式输…

把 Claude 接进自己的程序,最直接的入口是 Anthropic 官方 SDK 和它背后的 Messages API。它不依赖任何框架,十几行 Python 就能完成第一次模型调用;后面的工具调用、思考模式、提示缓存…

做计算机视觉的工程师大概都绕不开 YOLO,而提起 YOLO 的工程化落地,Ultralytics 几乎就是默认答案。这个仓库把检测、分割、姿态估计、深度估计这些原本要拼多个框架才能完成的任务,收进了一个统一的 API …

过去两年,数据处理圈流行一句话:"用 pandas 写,换 Polars 跑,快了 10 倍"。Polars 用 Rust 重写了数据框引擎的底层,多线程、向量化、惰性求值一样不缺,官方演示过在笔记本上流式处理约 250…

看一组数字就够了:GitHub 上约 104k Star、超过 11 万次提交——PyTorch 是当前最受研究者欢迎的深度学习框架。从 2017 年靠"动态图加 Python 原生体验"掀翻静态图霸主,到大模型时代各家…

2005 年诞生的 Django 到今天已经走过二十年,仍是 Python 世界 Star 数最高的 Web 框架之一(GitHub 约 81k Star)。它最出名的口号是"完美主义者的框架",官方定位一句话:Djan…
第 29 篇/post/1576讲部署,Agent 从脚本变成服务,系列的工具箱到那一篇就齐了。但工具箱不等于项目:29 篇文章各自解决一个问题,还没有一次在同一个程序里合体。本篇是《AI Agent 开发》系列第 30…
第 28 篇/post/1575给 Agent 装上了护栏,功能、评测、安全三关都过了,但它还住在你的笔记本里:langgraph dev 一关,服务就没了。生产化的最后一公里,是把一个 Python 进程变成 7×24…
第 27 篇/post/1574把 Agent 变成了可测量的系统:轨迹可评测、调用可复盘。但"可测量"回答的是干得好不好,本篇回答一个更冷的问题:被攻击时,损失能控制在多大。Agent 手里有工具、循环里有自主性、生态…
到第 25 篇/post/1572为止,这个系列把 Agent 开发的工程地基打完了:工具调用、图编排、RAG、MCP、记忆、多 Agent,一路到框架选型。本篇是系列第 26 篇/post/1573、第五模块"进阶架构…