ITPub博客

首页 > 数据库 > 数据库开发技术 > 通往AGI之路:减少提示词的幻觉

通往AGI之路:减少提示词的幻觉

原创 数据库开发技术 作者:雨飞AI笔记 时间:2024-01-08 22:51:52 0 删除 编辑

大家好,今天分享一个减少提示词幻觉的小技巧。


大语言模型在回答问题的时候,会产生幻觉问题。为了提高大模型生成回答的准确性和真实性,并减少生成不一致和虚构回答的可能性,可以考虑以下解决方案:


  1. 在上下文中提供基本事实,例如相关文章段落或维基百科条目,以减少模型生成虚构文本的可能性。

  2. 通过降低概率参数,指示模型在不知道答案时承认,并生成更少样式的响应,例如使用诸如“我不知道”之类的表达。

  3. 在提示中提供问题和答案的组合示例,其中包含已知和未知的问题和答案,以帮助模型更好地理解和生成回答。


前面两条,比较容易理解,今天重点看一下最后一条这个提示词是如何编写的。


增加未知的问题和回答


在这个例子中,我们提出了两个虚假的问题,然后告知大模型,这种情况下,你应该输出? 。如果大模型能够理解我们的输入内容,则可以做出正确的回答。


Q: 什么是原子?A: 原子是组成一切的微小粒子。
Q: Alvan Muntz是谁?A: ?
Q: Kozar-09是什么?A: ?
Q: 火星有多少个卫星?A: 两个,Phobos和Deimos。
Q: Neto Beto Roberto是谁?

下面是大模型回答的截图。





好啦,今天的分享就到此结束了,你学废了嘛?



『通往 AGI 之路』专栏简介


AGI 也就是通用人工智能,是我们的愿景,虽然实现它有很长的一段路要走。我们只希望让你在行走的时候不要走弯路,能真正体验的 AI 的强大。


目前已经更新的文章,可以点击链接进行查看:


通往AGI之路:提示词的越狱技术

通往AGI之路:提示词攻击技术

通往AGI之路:增加提示词书写的可靠性

通往AGI之路:提示词书写的关键要素

通往AGI之路:生成知识提示

通往AGI之路:从最少到最多提示过程

通往AGI之路:思维链提示过程

通往AGI之路:提示链与复杂任务拆分

通往AGI之路:什么是结构化提示词

通往AGI之路:提示词的学习路径

通往AGI之路:大模型幻觉指得是什么

通往AGI之路:如何评估提示词的质量

通往AGI之路:常用提示词编写框架

通往AGI之路:提示词基础技巧入门 5

通往AGI之路:提示词基础技巧入门 4

通往AGI之路:提示词基础技巧入门 3

通往AGI之路:提示词基础技巧入门 2

通往AGI之路:提示词基础技巧入门

通往AGI之路,提示词入门

通往AGI之路:什么是Embedding

通往AGI之路:什么是Fine-tuning


新增福利,欢迎查收!


永久免费星球『算法·成长·一人企业』,在这里我会高频输出和算法,个人成长,副业相关的知识以及资源分享,欢迎围观~,微信扫码就可以加入。




END

好了,今天的分享就到这里,希望对你有所帮助。

你的每一个『点赞』,都是鼓励我进步的勇气,点个『在看』,加油吧,一起成长!







来交个朋友


我是雨飞,一名工作 6 年的算法工程师,目前在探索大模型应用编程以及搜广推算法。未来的愿景是做 AI 时代的引路人,致力于带领 AI 小白入门和学习算法。


在这个充满机遇与挑战的时代,能让我们一起成长,满帆迎接 AI 时代,让未来的日子,不再平庸。同时,践行终身学习的理念,也尝试在职场外探索副业和人生的第二曲线。


欢迎,扫码或者添加微信 10606087688 和我做朋友,一起成长进步。



原文作者:雨飞AI笔记;如有侵权,请联系管理员删除。

请登录后发表评论 登录
全部评论

注册时间:2023-08-27

  • 博文量
    563
  • 访问量
    325124