IBM 正在探索一个未来：生成式 AI 不再局限于提示窗口中的内容。

AI 行业在相对极短的时间内经历了巨大的变革。十年前，最流行的 AI 模型能把你照片变成梵高风格的画作，或者从图表中提取数据，然后你还得自己去分析。过去几年的发展让那些显得颇为古雅。生成式模型如今可以为你的同事写出莎士比亚风格的十四行诗，编造企业吉祥物的传说，还能把会议记录变成俳句、打油诗，或者当天需要的任何诗歌形式。

但是，尽管我们在生成式 AI 领域看到了所有这些进步，我们与这些模型交互的方式仍然笨拙，不适合扩展以解决企业面临的一些最大问题。

目前，当我们需要完成某件事时，我们会用完整的英文句子写一系列陈述来提示模型。这催生了一个完整的领域，叫做提示工程，基本上就是在提示不起作用时摆弄提示中的词语，直到它效果更好。你可以用两种略有不同的方式写同一个基本请求来提示模型，得到两种不同的输出。更令人沮丧的是，你发现过去效果良好的较新版本模型，可能对完全相同的提示做出完全不同的回应。这种不可预测性对于关键任务或可重复的企业工作流来说是不可持续的。

这就是为什么在今年的 Think 大会上，IBM 研究人员公布了他们认为的前进新方向：生成式计算。它代表了一种新的计算概念，超越了临时提示，走向与模型的结构化、可编程交互。LLM（大语言模型） 应被视为需要编程结构和开发工具的新计算元素，就像任何其他软件一样。

我们已经在实践中看到了这一概念的萌芽，即上下文工程，AI 开发者已经开始采用系统化的方法来使用 LLM。生成式程序有可能成为一种更结构化的方式，来高效且有效地进行上下文工程。

今天当你与 LLM 交互时，API（应用程序编程接口） 是通过 token（模型能理解的最小信息单元）与模型交互的中介。在生成式计算中，想法是用一个配备编程抽象的运行时来取代 API。

该团队正在研究一些抽象，可以消除当今使用 LLM 的许多脆弱性。这些抽象包括：为模型创建一组要遵循的指令，无论使用哪个模型都能产生相同的结果；采样策略以控制模型输出的随机性；以及对你期望模型在输出中如何行动的内在安全护栏和约束。团队不是在用英文句子恳求模型并希望得到你想要的答案，而是努力让这像任何其他形式的软件一样可编程。

实现其中一些抽象的一种方法是使用激活低秩适配器（activated low-rank adapters，简称 aLoRAs）。这些为基础模型提供了在推理时需要执行的特定任务的专门能力——没有延迟。它们可以赋予模型重写用户查询以实现更好检索的能力，评估检索文档的相关性，判断在给定上下文下问题是否可回答，估计其答案中的不确定性，检测幻觉，甚至生成句子级引用。这些新工具现在已在开发者聚集的地方提供，包括 Hugging Face 和 vLLM。

但这只是该团队——由 IBM Research AI 模型副总裁 David Cox 领导——所认为的我们构建生成式 AI 方式的根本转变的开始。在一个新的博客系列中，Cox 扩展了他团队正在做的工作，探讨了他所认为的计算所经历的一般性转变：从命令式计算（有人明确列出程序要遵循的指令）转向归纳式计算（程序从示例中学习）。

“我们相信，生成式计算需要用于 LLM 的新编程模型、由 LLM 执行的新基础低级操作，以及构建 LLM 本身的新方法，”Cox 在他的帖子中说。

这促使 Cox 的团队创建了 Mellea，一个用于编写生成式程序的库。Mellea 包含开发者可以使用的工具，用团队所称的“结构化、可维护、健壮且高效的 AI 工作流”来取代不一致的智能体和脆弱的提示。

Mellea 的目标是让 AI 构建者摆脱他们迄今为止所依赖的庞大而笨拙的提示词，并将其转化为结构化且可维护的 mellea 程序。Mellea 是开源的，现已在 GitHub 上提供，并兼容多种推理服务和模型系列。

这只是对蓬勃发展的生成式计算世界的一次初步探索。要了解更多即将到来的内容，请阅读 Cox 对 IBM Research 生成式计算工作重点的深入探讨。

转载声明：本文为转载整理，原文版权归原作者及原站点所有。

原文来源：IBM Research Blog

原创地址：https://research.ibm.com/blog/generative-computing-mellea