
PyTorch 详解:深度学习框架事实标准
看一组数字就够了:GitHub 上约 104k Star、超过 11 万次提交——PyTorch 是当前最受研究者欢迎的深度学习框架。从 2017 年靠"动态图加 Python 原生体验"掀翻静态图霸主,到大模型时代各家…
分类
追踪大模型的实战前沿:模型横评与选型(Fable、GPT、Gemini、DeepSeek)、AI Agent 架构(浏览器代理、Computer Use、多智能体协作)、判断模型(Jev、Laya)、本地化部署(AnythingLLM、WebLLM)与开源 AI 生态全景。从原理拆解到落地配方,给出可复制的选型与工程结论。
共 162 篇文章

看一组数字就够了:GitHub 上约 104k Star、超过 11 万次提交——PyTorch 是当前最受研究者欢迎的深度学习框架。从 2017 年靠"动态图加 Python 原生体验"掀翻静态图霸主,到大模型时代各家…

让 AI 操作 Figma 有两条路:读设计稿(Framelink MCP 一类)与写设计稿。而东南亚出行巨头 Grab 开源的 TalkToFigma(cursor-talk-to-figma-mcp)走的是后者——让 AI Agent 直接在 Figma 画布里动手:创建矩形、文本、画板,改颜色、圆角、自动布局,批量替换文案、传播组件覆盖。它以"MCP 服务器 + WebSocket 中继 +…

PydanticAI 详解:类型安全的 Python AI SDK写 LLM 应用最疼的两件事:模型返回的 JSON 不合预期、换一家模型商要改一串代码。pydantic/pydantic-ai(PydanticAI)用 Pydantic 团队的老本行回答了第一件——输出用 BaseModel 定义、运行前先校验,错误从运行时提前到编码时;第二件则用"模型即字符串"回答:换个厂商只改一个参数。如今
编码之王之争:2026 编码模型深评与实战选型"写代码用哪个模型?"是开发者每天都要回答的问题。但"编码能力"不是一个分数能概括的——补全一行、生成一个函数、重构一个模块、调试一个疑难 Bug,是四种完全不同的活,各自的最优解并不重合。本文不和"全维度横评"重复,而是钻进"编码"这一条纵深:拆开编码能力的细分维度、深读基准、按工作流分维度对比,帮你把对的活交给对的模型。1、编码之争的核心转变:从"

大模型应用上线后,第一个撞上的墙往往不是模型效果,而是推理成本和吞吐。原生 Hugging Face 推理一次一个请求、KV 缓存整块预留显存,GPU 利用率低得可怜。vLLM 就是为解决这个问题生的:它用 PagedA…

NextChat 详解:一键部署的跨平台 AI 聊天助手2023 年"自部署 ChatGPT"浪潮里,被 fork 最多的项目是哪一个?答案是 ChatGPTNextWeb/NextChat——88.8k Star 背后是 5.9 万个 Fork,几乎每个想"一分钟拥有自己 ChatGPT"的人都 fork 过它:Vercel 点一下按钮、填一个 API Key,网页就跑起来了。它由 Yidada

PocketFlow 详解:100 行代码的 LLM 框架LangChain 40 万行、装完胖 166MB——"框架膨胀"是这两年 LLM 应用开发最常被吐槽的痛点。The-Pocket/PocketFlow(Pocket Flow)给出的答案激进到近乎行为艺术:整个框架只有 100 行 Python,零依赖、零厂商锁定,只保留一个核心抽象——图(Graph)。在此之上,Agent、Workfl

把 Figma 设计稿交给 AI 编码助手还原,最常见的做法是贴截图——模型看图猜布局,间距靠估、颜色靠猜,一次成功率惨不忍睹。Framelink MCP for Figma(GLips/Figma-Context-MCP)换了个思路:通过 MCP(Model Context Protocol)服务器把 Figma 文件的结构化数据直接喂给 Cursor 等编码 Agent——粘贴一个 Figma…

GPTCache:给 LLM 查询加上语义缓存LLM 应用火了之后,两个老问题立刻浮现:API 贵(按请求与 token 计费,流量一上来账单爆炸)和响应慢(实时生成动辄数秒,还可能撞 rate limit)。软件工程里这两个问题的经典答案是"缓存"——但 LLM 查询没法用传统精确匹配缓存:用户问"what's github"和"can you explain what GitHub is",字

LangGraph 详解:构建有状态代理的低层编排框架用大模型做代理(Agent),难的从来不是"调一次模型",而是让它有状态地连续工作:多步循环、分支路由、失败后从断点恢复、中途让人插手确认。langchain-ai/langgraph(LangGraph)就是为此而生的低层编排框架——把代理工作流建模成图:节点是步骤、边是流转、条件边做动态路由,天然支持循环与多代理协作。约 41.5k Sta

LLMLingua 详解:微软的提示词压缩工具,最高 20 倍压缩大模型的成本与延迟,大多花在冗长的提示词上——检索增强塞进几十段文档、few-shot 示例动辄几千 token,其中很多其实不必送进模型。微软开源的 LLMLingua 专门解决这个问题:用小语言模型对提示词做 token 级压缩,最高 20 倍压缩率且性能几乎不损失,还能顺带压缩 KV-Cache 加速推理。本文从动机、快速上手

Serena 详解:给编码 Agent 用的 IDE让 Agent 写代码,最贵的不是模型,是上下文——用 grep 和行号在十万行代码库里找符号、读整文件、做跨文件重命名,token 烧如流水,还容易改错。oraios/serena(Serena)的解法是把 IDE 的看家本领借给 Agent:符号级的语义检索、编辑、重构与调试,通过 MCP 协接入任何 AI 客户端——口号直白,"The ID

RTK:砍掉 AI Agent 读取的 90% Bash 输出AI 编程助手的 token 账单里,藏着一大块隐形消耗——bash 输出。跑一次失败的 cargo test,200 多行测试日志全部灌进上下文;git push 的进度条占 15 行;ls -la 一下 45 行……这些输出大部分是 agent 不需要的"噪音",却实打实消耗 input token、挤占宝贵的上下文窗口。RTK(R

让 AI 编程助手真正"上手"操作浏览器,是 agent 工具链里被反复验证的需求:登录站点、填表单、点按钮、截图取证、抓数据、跑端到端测试。传统路径是把 Playwright 交给模型——让它写脚本、运行、看报错、改脚本,循环往复,慢且脆弱,token 也烧得凶。 vercel-labs 出品的 agent-browser 给出了另一种答案:一个专为 AI agent 设计的浏览器自动化 CLI…

qmd 详解:Shopify CEO 开源的本地 Markdown 搜索引擎给 AI 代理喂"对的上下文"越来越重要,而多数方案要把笔记、文档传上云端。Shopify CEO Tobias Lütke(GitHub ID:tobi)开源的 qmd 给出了另一条路:一个完全跑在本地的迷你 CLI 搜索引擎,专门检索 Markdown 笔记、会议纪要与文档,把 BM25 全文检索、向量语义检索与 LL