ITPub博客

首页 > 人工智能 > 人工智能 > 微软推出新模型,将决策制定与生成式AI分离

微软推出新模型,将决策制定与生成式AI分离

人工智能 作者:ITPUB社群 时间:1970-01-01 08:33:46 0 删除 编辑

微软表示,Decision-1 旨在比通用大语言模型更高效地处理路由、分类和验证任务。

微软推出了 Decision-1,这是一种 AI 模型,可为预定义答案返回概率,使软件应用程序能够直接使用其输出,而无需处理来自大语言模型(LLM(大语言模型))的自由形式响应。

该模型面向分类请求、事件优先级排序以及检查 AI 生成响应等任务。微软表示,与依赖通用 LLM 的方法相比,它能够以更低的成本和延迟处理这些决策。

“它不会编写自由形式的响应,而是接收一组固定的答案选项,并在单次处理中为每个选项返回经过校准的概率,”微软在一篇博客文章中表示。

据该公司称,Microsoft-Decision-1 可通过 Microsoft Foundry 和 OpenRouter 使用。微软通过对 Qwen3.5-9B 进行后训练构建了该模型,并表示计划将其重新基于其他模型,包括 Microsoft AI(MAI)和 OpenAI 模型。

模型面向特定决策

微软表示,Decision-1 支持是或否判断、预定义选项之间的选择、评分,以及基于评分标准对 AI 响应和智能体操作进行评估。开发者可以使用其输出来对输入进行分类、对工作进行排序、验证响应,或确定 AI 智能体工作流中的下一步操作。

与能够生成解释和其他自然语言内容的通用 LLM 不同,决策模型为可用答案返回概率。微软表示,其 Decision-1 模型还可以在单个请求中并行评估多个决策。

微软引用基准测试结果

据微软称,在覆盖近 150,000 个训练期间保持盲测的问题的 36 项基准比较中,Decision-1 取得了最高准确率。该公司还报告称,该模型比第二名快约 2.5 倍,比 GPT-6 Sol 快 35 倍。

根据该博客文章,微软列出的价格为每百万输入 token 4.2 美分,输出 token 不收费。

在一个事件优先级排序示例中,该公司表示,一个使用 86 个输入 token 和两个输出 token 的请求成本约为 $0.0000036。按此费率,$1 可覆盖超过 275,000 个类似决策。

基准测试结果和成本计算均为微软的说法,尚未经过独立验证。

Forrester 副总裁兼首席分析师 Charlie Dai 表示,专用决策模型可以降低智能体 AI 工作流的成本和延迟。

“路由、分类和审批检查通常占智能体交互的很大一部分,因此专用决策模型可以显著降低成本和延迟,同时将通用大语言模型保留用于推理和内容生成,”Dai 表示。

Kanerika 的 AI 开发经理 Amit Kumar Jena 表示,将常规的路由和审批检查从大型生成模型转移出去,对于规模化部署 AI 智能体的企业而言是一项有意义的架构变革。

然而,Jena 提醒不要用微软的基准测试结果来预测企业节省的成本。他表示,组织应衡量“每个成功完成的工作流的成本和延迟,包括回退和错误。”

治理风险

Decision-1 返回分数,但不为每个决策提供理由。Jena 表示,微软的文档还警告称,结果可能因问题的措辞方式而变化。

“我担心的是,一个看起来精确的概率可能会赋予一个不确定的决策超出其应得的权威性,”他说。

Dai 表示,缺乏推理过程会使决策更难解释、验证和质疑。他建议进行校准测试、对问题措辞和分数阈值进行控制、审计日志记录,以及对高影响决策进行人工审核,尤其是在涉及客户结果或监管义务时。

Jena 建议从可逆任务开始,例如请求路由和分诊,并对实质性影响人员的决策要求进行有意义的人工审核。

这些担忧集中在组织如何解读模型的分数并用其触发操作。分配给某个答案的概率本身并不能解释该决策,也不能证明它对特定企业应用是正确的。


转载声明:本文为转载整理,原文版权归原作者及原站点所有。

原文来源:InfoWorld

原创地址:https://www.infoworld.com/article/4234290/microsoft-separates-decision-making-from-generative-ai-with-a-new-model.html

原文作者:Gyana Swain;如有侵权,请联系管理员删除。

请登录后发表评论 登录
全部评论

注册时间:2022-11-21

  • 博文量
    1196
  • 访问量
    549299