Glean 拾遗
最近收录

2 条 · 按时间

07-11

智能体编码中的测试哲学:从芯片设计到AI工作流

本文作者以在芯片公司Centaur的测试经验为背景,探讨了LLM驱动的智能体(agent)在软件工程中的测试与编码实践。核心观点包括:Centaur的无代码审查、模糊测试为主的工作流在AI时代依然高效,每年仅出现<1个重大用户可见bug;LLM直接生成的测试质量较差,但通过定向提示进行模糊测试可在数分钟内发现真实漏洞;LLM方差极大,同一模型在不同任务上表现迥异,使得公共基准测试的单一排名缺乏实际指导意义;作者还分享了在构建超人类棋盘游戏AI时的系统性方法——基于数据和分析而非盲目提示。文章适用于对AI辅助软件工程、测试自动化及高效agent工作流感兴趣的工程师。

danluu.com · 91 min · AI Engineering · Benchmarks · Developer Tools
07-11

Agent 编码的测试、基准与方差:来自一线的深度复盘

Dan Luu 分享了他过去一年密集使用 AI 编码代理(coding agents)的实战经验,重点围绕测试、基准测试和代理循环。他对比了 fuzzing(随机测试)与 LLM 直接找 bug 的效果,认为 fuzzing 在速度和误报率上更优;用 50 次运行验证了 ‘caveman mode’ 节省 token 但效果不稳定;揭示了 LLM 基准测试的高方差问题——同一模型在不同任务上的表现差异巨大,导致公共基准对个体用户几乎没有指导意义。他还讨论了如何用代理自动从支持工单生成 PR、用多 persona 协作减少误报,以及数据分析和代理循环中的系统性难点。适合关心 AI 编码工具真实效果的一线工程师阅读。

danluu.com · 91 min · Agent Engineering · Fuzzing · LLM Benchmarking