往期回顾
⓸ 群体智慧（Self Consistency）
彬老师：Google的《 SELF-CONSISTENCY IMPROVES CHAIN OF THOUGHT REASONING IN LANGUAGE MODELS》论文，就提出利用大模型的多样性生成能力，来提高推理准确性的巧妙思路。
大饼：多样性生成能力？
弘老师：我们知道，大语言模型是生成式模型，对同一个问题可以产生多种不同的回答。研究者想到，何不让模型生成多个思维链，然后从中选出最佳答案？
小渣：有点像投票系统？
弘老师：正是如此！对同一个问题，使用CoT方法让模型生成多条不同的推理路径，每条路径都会得出一个答案。然后采用"多数投票"机制——如果多个答案中有两个是18，一个是16，那么最终选择的答案就是18，如下图所示。
大饼：这有点像集体决策了，利用"群体智慧"来提高准确率。
弘老师：是的，实验结果也证明了这一点：在 GSM8K数据集上，这种方法将模型性能从56.5%提升到74.4%，提高了近20个百分点。
小渣：生成的答案越多，投票基础就越大，准确率就会更高？
彬老师：确实如此。研究发现，随着备选答案数量从1个增加到40个，模型性能持续提升。这与社会科学中的"集体智慧"理论非常吻合：样本越多，通过投票机制筛选出的结果越可能接近真相。
大饼：这太有意思了！不过，所有这些方法似乎都是在使用模型时的技巧，那能不能让模型自己学会产生更好的思维链呢？
弘老师：哈哈，好问题，接下来第五篇论文会让你豁然开朗的。
未完待续...
公众号：收获不止数据库
微信：ljbyxl1213
来自 “ ITPUB博客 ” ，链接：https://blog.itpub.net/9091385/viewspace-3079659/ ，如需转载，请注明出处，否则将追究法律责任。
最新文章
- 2030年，两个智能体的深夜回忆：幸亏那年，人类重构了数据库
- 万物一理：从人体进化到IT架构的取舍之道——写在2026中国系统架构师大会之前
- 达梦9发布会归来：AI 时代，我们需要一款什么样的数据库？
- 当AI强到连“造物主”都感到恐惧，我们该怎么办？
- 当AI反噬宏观经济：一场关于个体自救与中国制度托底的万字推演
- 原来“先吃菜”和“后建索引”是同一个逻辑？揭秘那些万物相通的“执行顺序”
- 应用程序大模型化之路——从12306畅想看预设模式颠覆与数据觉醒（下）
- 应用程序大模型化之路——从12306畅想看预设模式颠覆与数据觉醒（中）
- 应用程序大模型化之路——从12306畅想看预设模式颠覆与数据觉醒（上）
- 技术人生——第13集：溯本清源，手起刀落
