Glean 拾遗
最近收录

2 条 · 按时间

08-05

LLM 工具调用底层循环:工具定义、tool call 与结果回传

本文用一个写 .gitignore 文件的例子拆解 LLM 工具调用的真实机制:工具并非独立运行的魔法,而是以 JSON Schema 定义名称、描述和参数后注入系统提示词。LLM 返回的 tool call 仅是一条带 id 和参数的消息,需要开发者在本地执行对应的真实函数,再把成功或失败结果以同一 id 回传,LLM 才能继续生成下一步。作者强调错误信息必须回传,否则模型无法调整行为。适合刚接触 agent 开发、想理解工具循环底层消息流的工程师。

www.aihero.dev · 4 min · Agent Engineering · Agents · LLM
07-06

模型越强,工具调用越糟:Anthropic 新模型在 Pi 编辑器上的诡异字段注入

Pi 作者发现,Anthropic 的 Opus 4.8 和 Sonnet 5 在调用 Pi 的编辑工具时,会在 edits[] 数组中注入凭空捏造的字段(如 requireUnique、oldText2、cost),导致工具调用失败。更令人担忧的是:旧模型不会犯此错误,越新的模型反而越差。作者深入分析了 Anthropic 工具调用的实现机制——基于 ANTLM 标记的带内信令,以及 Claude Code 内部那套极其宽容的“污泥 harness”(容忍别名、静默过滤未知键、自动修复 Unicode)。他推测这是后训练阶段过度适配 Claude Code 的扁平编辑工具 schema 的产物,导致更强的新模型对非标准 schema 产生更强的先验偏差。文章给出实证:开启严格模式修复了问题,但 Anthropic 对工具定义的复杂度限制使 Claude Code 无法使用严格模式。工具 schema 不再中立,任何第三方 harness 都必须继承 Claude Code 的怪癖。

lucumr.pocoo.org · 14 min · Agent Engineering · AI · Claude Code