【论文速读】高仿RNN的大模型-RECURRING GPT:可控长文本的生成
RECURRINGGPT解决了传统文本生成技术的一些问题,如缺乏可解释性和交互性、难以处理长文本以及难以控制生成文本的质量等问题。通过引入自然语言生成机制和预训练的语言模型保持高质量的同时提高用户的参与度和可控性。
强化RAG:微调Embedding还是LLM?
微调有利于提高模型的效率和有效性。它可以减少训练时间和成本,因为它不需要从头开始。此外,微调可以通过利用预训练模型的功能和知识来提高性能和准确性。它还提供对原本无法访问的任务和领域的访问,因为它允许将预先训练的模型转移到新场景。
【论文速读】RAG强化:ARM-RAG
如何通过使用RAG来提高大型语言模型(LLM)的问题解决能力。作者提出了ARM-RAG系统,该系统可以在不花费大量训练成本的情况下学习并记忆推理链,从而在小学生的数学问题中取得了良好的表现
通用人工智能第一步:工具的使用
希望以后大模型能够更加智能,甚至自行设计工具,或许那时候,才是真正的通用人工智能时代吧。
一句话CG动画生成:文心一言4.0的体验
利用问心一言4.0,一句话生成CG动画,功能震撼!
【代码实操】Triton Server从零搭建
?大模型已经在部分场景成功落地应用,例如写作、代码、对话等,但大模型的体量在那摆着,如何高效的推理仍然是一个亟待解决的问题,英伟达的Triton是为了模型推理提效专门的框架,本文先以Triton为例进行探索学习记录。
大模型的进化:从手无寸铁到武装到牙齿
鹰的视力正常情况下可以达到36km,大约为人类的8倍,但人类借助望远镜,可以直接观察月球表面的陨石坑;猎豹的速度可以达到时速115公里,相比之下,人类的身体就孱弱的多,要速度没速度,要耐力没耐力,但人力借助汽车可以日行千里。
定制大模型解决垂类领域问题:方法与选择的权衡
大模型成了各大业务场景的首选,但不得不面对的一个问题是,全而不精的模型如何解决垂类领域场景问题
RAG可以更强
微调是让大模型学会知识后,应用过程相当于闭卷考试,全靠自己学习记住的东西;RAG是大模型直接开卷考试,将所有知识摆在面前,能不能理解就看大模型自身的能力了。所以如何将检索的东西更加简单明了的输入到大模型中,是RAG方法的重点。
HeyGen-为你读书
AI为你读书系列:第一弹
ChatGPT的红白机游戏
在“远古游戏时代”——红白机时代,有一种游戏是不太清晰的像素风文字游戏,通过文字控制角色和环境互动,推进剧情
RAG:本地检索式问答代码实现和推理加速
检索增强生成 (RAG)是一种结合信息检索的大模型生成方法,可提高生成文本的质量和相关性,特别是在问答、摘要和文本完成等复杂语言任务的背景下。
当我们谈论幻觉时我们在谈论什么
当我们谈论幻觉时我们在谈论什么?
大模型部署的几点废话感悟
企业中,我们费劲巴拉的使用大模型,不断的通过提示工程、Lora、SFT、PT等方法或技术提升大模型的表现,都是要落地大模型的。但实际的落地和理想之间是有差距的。
RAG不是万能的!
假期归来,正好最近的项目也是LLM和RAG的结合,将遇到的、看到的关于RAG的一些问题进行梳理如下。大语言模
精准索引的关键:解密LLM分块技术解析
在构建 LLM 相关应用程序时,分块是将大块文本分解成更小的片段的过程。这是一项重要的技术,一旦我们使用LLM进行向量化内容,它有助于优化我们从矢量数据库返回的内容的相关性
【图文长文】探索RAG技术:从知识检索到答案生成的神奇过程解析
有一个名为LangChain的流行开源库,它可以创建聊天机器人,其中包括用 3 行代码对任何网站/文档进行问
简单提升RAG的10种方法
RAG(检索增强) 通过为LLM提供回答查询时使用的事实背景,使LLM变得更加实用。实际实践过程中,提升RAG的效果有许多的方向,这篇文章将常用的思路进行讨论,希望对RAG系统的优化和使用提供一些帮助。
提升LLM效果的三种简单方法!
开源LLM的性能正在不断接近ChatGPT,甚至通过适当的调整可以在特定任务上超越ChatGPT。但要使用这些LLM并不像看起来那么简单,尤其是如果希望根据特定用例微调LLM。不过,别担心,有3种简单方法可以提升LLM的性能
由一张纸引发的那不堪回首的往昔
今天整理文件的时候,发现了一个自己之前打印的讲稿,是关于一个需求的技术方案,看着纸张上那不算太通顺但又密密麻