ITPub博客

首页 > 人工智能 > 深度学习 > 很容易将 Jev 仅仅视为一个分类器

很容易将 Jev 仅仅视为一个分类器

深度学习 作者:ITPUB社群 时间:1970-01-01 08:33:46 0 删除 编辑


对 Jev 进行炒作和贬低都很容易。过去几天我看到了很多有趣的演示。过去几天我也读到了很多否定性的评论。我认为真相介于这两个极端之间。

也就是说,人们很容易将 Jev 贬低为“不过是一个分类器”。

确切的模型和训练算法并未公开。但如果我必须做出有根据的猜测,它很可能是:

  • 一个小型编码器风格模型,如 (Modern)BERT;

  • 使用类似于校准奖励强化学习(来自《Beyond Binary Rewards: Training LMs to Reason About Their Uncertainty》论文)的方法进行训练。

许多人(包括我自己)多年来一直在训练用于分类的编码器风格模型。事实是,它们通常是专用目的,并且在某些方面存在局限。

Jev 令人印象深刻的突破在于它泛化得如此之好(你可以用它来分类电子邮件、玩电子游戏、交易股票……)。

我想说,秘诀可能更多在于数据,而不是训练算法。(再加上其上层优秀的 API(应用程序编程接口) 设计。)

是的,这并不是第一个将强化学习应用于(很可能)非自回归、编码器风格模型的项目。

但令人印象深刻的是,它确实有效,并且泛化得如此之好,这可能带来天壤之别。也就是说,不久前我们在 Stable Diffusion(基于一篇已有研究论文)上看到了同样的情况,甚至 2022 年 ChatGPT 发布本身也是如此(它是 InstructGPT 的改进版本,其中数据带来了天壤之别)。



转载声明:本文为转载整理,原文版权归原作者及原站点所有。

原文来源:Sebastian Raschka Blog

原创地址:https://sebastianraschka.com/blog/2026/jev-classification-generalization.html

原文作者:Sebastian Raschka;如有侵权,请联系管理员删除。

请登录后发表评论 登录
全部评论

注册时间:2022-11-21

  • 博文量
    1090
  • 访问量
    546860