从改提示词到微调:一条按成本排序的 LLM 应用优化阶梯
本文给出提升 LLM 应用性能的 17 种手段,并特意按实施成本从低到高排列成“复杂度地狱阶梯”:先改提示词、加角色设定、用 XML 标签和结构化输出,再尝试思维链、多示例、温度调节与工具调用;只有这些简单手段用尽后,才考虑 RAG、切块、智能体循环、并行调用、评估-优化器、路由器和微调。作者强调改善系统的本质是“先改进评估,再改进系统”,并给出可验证的 trade-off:CoT 以延迟换质量,智能体循环更灵活但每步决策更慢,路由器能绕过单模型约 30 个工具的限制但增加一次串行调用。适合正在做 LLM 应用迭代、需要一份按成本排序的优化清单的一线工程师。