首页 > 人工智能 > 人工智能 > 模型升级比工程升级能带来更大的智能提升吗?
导语:在 AI 产品与基础设施的讨论中,“换更强的模型”和“把现有模型用得更好”常被放在一起比较。前者是模型升级,后者是工程升级。两者都能带来体验提升,但它们的收益性质、边际成本和可持续性并不相同。本文尝试给出一个判断框架,而不是一个简单的“谁更大”的结论。
模型升级指替换为参数规模更大、训练数据更多、训练方法更新的基础模型,或使用同一厂商的新一代模型版本。它改变的是系统的“能力上限”。
工程升级指在不更换基础模型的前提下,通过推理优化、检索增强、提示工程、工具调用、缓存、路由、评测体系、数据管线等手段提升系统表现。它改变的是“能力上限被利用的程度”。
模型升级最直接的价值,是让原本做不到的任务变得可做。例如更强的长上下文理解、更稳的指令遵循、更好的多步推理,这些往往是工程手段难以完全弥补的。
但模型升级的收益有几个特点:
工程升级的价值在于把模型已有的能力更稳定、更便宜、更可控地发挥出来。典型手段包括检索增强降低幻觉、结构化输出约束提升可用性、缓存与路由降低延迟和成本、评测体系让迭代有据可依。
它的特点是:
与其问“哪个更大”,不如问“当前瓶颈在哪里”。可以按以下顺序判断:
依据现有素材判断,可以给出以下方向性判断,而非定量结论:
“模型升级比工程升级带来更大智能提升”这一说法,在瓶颈确实位于能力上限时成立;在瓶颈位于能力利用时不成立,甚至可能相反。更稳妥的做法是:用评测定位瓶颈,用工程手段榨取存量能力,在收益递减时果断升级模型,并把工程能力设计成可跨模型复用的资产。
生成标记:本文由 ITPUB 文章生成平台基于已选素材整理生成。
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/69925873/viewspace-3189595/ ,如需转载,请注明出处,否则将追究法律责任。