
Langfuse:开源 LLM 工程平台,从追踪到评估
Langfuse:开源 LLM 工程平台,从追踪到评估LLM 应用上线后,团队很快会面对一堆工程问题:这次回答为什么这么差?哪个 prompt 版本效果好?一次会话烧了多少 token?用户点了赞还是踩?这些在传统应用里靠 APM + 日志解决的问题,在 LLM 应用里需要专门的工具链——LLMOps。Langfuse 是这个领域最热门的开源平台:帮团队协作地开发、监控、评估、调试 AI 应用,支
资深 Android 开发工程师,丰富系统级应用经验,覆盖亿级用户设备,专注 AI Agent 工程化落地。白天在搞 AI 智能体,晚上回来折腾这个博客。以前的文章是从刚毕业一个字一个字敲的,现在嘛——我跟 AI 说一句话,它就写好发出来了。不信?看看最新的文章 🚀

Langfuse:开源 LLM 工程平台,从追踪到评估LLM 应用上线后,团队很快会面对一堆工程问题:这次回答为什么这么差?哪个 prompt 版本效果好?一次会话烧了多少 token?用户点了赞还是踩?这些在传统应用里靠 APM + 日志解决的问题,在 LLM 应用里需要专门的工具链——LLMOps。Langfuse 是这个领域最热门的开源平台:帮团队协作地开发、监控、评估、调试 AI 应用,支

在 2026 年的今天,如果你只能为新项目选一种数据库,PostgreSQL 大概率是那个"不会错"的答案:它连续四年霸榜 Stack Overflow 开发者调查,版本也走到了 17 与 18 并行的格局——17 稳坐…

想在旧手机上体验 Android 17 的新特性,传统路径只有一条:等厂商推送,或者冒险刷第三方 ROM——两条路都可能把手机变砖。国产独立产品 AndVM 换了个思路:在手机里跑一台安卓虚拟机,从 Android 10 到 17 的通用系统镜像都能装,主系统毫发无损。它基于 GSI(Generic System Image,通用系统镜像)方案,宿主 App 本身要求 Android 11 以上的…

把大模型跑起来只是一半,另一半是给谁用、怎么用。Ollama 解决了"跑起来",Open WebUI 解决"用起来"——它是一个可完全离线运行的自托管 AI 界面平台,给本地模型配上聊天界面、知识库、权限体系和工具生态,…

设计稿转代码是 AI 编码的刚需场景,但反方向的需求同样真实存在:把已上线的网站还原成可编辑的 Figma 设计稿——竞品分析、设计重构、设计系统回填,都需要"网页变设计稿"这条通道。BuilderIO/figma-html(html.to.design)做的就是这件事:输入任意网址,插件抓取页面并把 HTML 元素转成 Figma 原生图层——文字还是文本层、容器还是 frame、样式属性一一对…

MCP 服务器有两种交付形态:本地进程(npx / uvx 启动)与远程托管(HTTP 端点即用)。Google 的官方仓 google/mcp 主打后者——描述只有一句"Google 💚 MCP",README 列出 Google 托管与维护的官方 MCP 服务器:BigQuery、AlloyDB、Cloud SQL、Compute Engine 等 Google Cloud 核心服务的远程端…

system-prompts-and-models-of-ai-tools : AI 工具系统Prompt合集在 AI 编码与生产力工具爆发式增长的背景下,每款产品背后都藏着一段决定其行为的系统提示词。GitHub 上 x1xhlol(Lucas Valbuena)维护的 system-prompts-and-models-of-ai-tools 仓库(142.3k Star,GPL-3.0)自称

MongoDB 是文档数据库的旗手。关系数据库讲了半个世纪的"先范式化拆表、再 join 拼装",它的回答简单直接:应用里数据长什么样,库里就存什么样。到了 2026 年,8.0 系列仍在稳定迭代,向量搜索也走进了自建社…
《OpenAI Python SDK 从入门到实战》写到这里是第 12 篇/post/1679,也是收官篇。前十篇把 Responses API 的调用、能力与工程化逐层展开,第 11 篇/post/1678把全部零件焊…
一个系列学到收官,最常见的遗憾是"知识都懂,串不起来":流式会写、工具调用会写、会话裁剪也会写,可它们散在十个脚本里,从没在同一个程序里合过力。本篇是《OpenAI Python SDK 从入门到实战》系列第 11 篇/…
第 6 篇/post/1677解决了"一份文档怎么喂给模型":上传拿 file_id,input_file 块引用,一份 PDF 经得起连番追问。可文档一多,这条路立刻见顶——几十份手册、几百页笔记,总不能每问一句就把全…
demo 里一次调用要么成功要么失败,重跑一遍就是了;上了生产,同样的代码每天被调用几万次,失败就从偶发插曲变成日常配额——网络抖一下、限流撞一下、服务端晃一下,任何一个都能让无防护的进程半夜崩掉。生产环境的第一课不是"…
账单是 AI 应用从玩具走向产品的第一道关卡:demo 阶段一次调用几厘钱无人在意,等到日调用十万次,同样的代码每月烧掉几百上千美元。好消息是,OpenAI 把省钱的旋钮都摆在了明面上——换更便宜的模型档位、让重复前缀走…
聊天产品从 demo 走向生产,中间横着的往往不是模型能力,而是会话状态:demo 里十行代码就能跑通多轮对话,可会话一长,token 与账单一起膨胀;换成服务端托管省了代码,隐私与控制权又要重新权衡。本系列第 2 篇/…
前五篇里进出模型的都是文字:提问用文字写,回答用文字拿。可真实世界的原始材料多半不是文字——购物小票是照片,会议纪要是录音,产品手册是 PDF,先靠人工把它们"翻译"成文字再喂给模型,翻译这一步常常比调用本身还费劲。多模…
模型能言善辩,却两眼一抹黑:它不知道今天的天气,查不到你数据库里的订单,更不能替你发一封邮件——训练数据是静态的,模型本身只是一个文本进、文本出的函数。函数调用(Function Calling,官方也称工具调用)补上这…
让模型"说人话"只是起点,让程序"听得懂"才是工程问题。本系列前两篇跑通了最小调用链路、理清了消息结构与模型选型,拿到的回复都是自由文本;可下游程序要的是字段——情感分析要拿到 sentiment 与 rating,信息…
让 AI 应用"显得快"的秘密,多半不在模型生成得多快,而在第一个字多早出现。同样一段长回答:一种交互是进度圈转上十几秒、文字整段砸出来;另一种是不到一秒第一行就冒头,随后文字匀速流出。两者总耗时几乎一样,体感却天差地别…
调用 OpenAI API 的时间,八成花在两件事上:把对话组织成结构化的消息数组,以及为手头任务挑一个合适的模型。前者决定了模型"听到什么",后者决定了它"有多聪明、花多少钱"。本系列第 1 篇/post/1675的主…
调用大模型早已不是大厂专利:一个 Python 脚本、十几行代码,就能把 GPT 模型的能力接进自己的程序。但不少初学者恰恰卡在最起点——环境装不对、密钥配不好、第一次调用报错后不知从何排查。本篇是《OpenAI Pyt…