大模型面试一日一问:请介绍下AdapterDrop方法
离谱的论文:“弱智吧”不弱智,竟成最佳中文AI训练数据?
使用弱智吧数据训练的大模型,跑分超过百科、知乎等平台,甚至是研究团队精心挑选的数据集。在问答、头脑风暴、分类、生成、总结、提取等8项测试中取得最高分。论文中的Ruozhiba就是指百度贴吧弱智吧,一个充满荒谬、离奇、不合常理发言的中文社区。
命运的相遇:当RAG遇上KG
大模型面试一日一问:介绍下QLoRA算法
QLoRA(Quantized Low-Rank Adaptation)算法是一种针对大型预训练语言模型(如G
大型语言模型中的记忆、上下文与认知探讨
大型语言模型(LLMs)以其令人印象深刻的生成类人文本、回答问题甚至编写代码的能力,在全球范围内引起了轰动。
端到端RAG的尝试:RAFT-为特定领域定制的语言模型适应性训练方法
在实际应用中,我们经常需要模型在拥有大量相关文档的情况下回答问题,这类似于一个“开卷考试”的场景。然而,如何有效地将预训练模型与特定领域的知识结合起来,以提高在这些领域内的任务性能,仍然是一个开放性问题。
Token预测的未来:大型语言模型的预训练后操作
大型语言模型 (LLMs) 例如 GPT-4,经常被简单地描述为仅靠概率预测下一个单词的模型。
从数据中挖掘真相的五个思考
对于现代深度学习模型训练来说,高质量数据是至关重要的燃料。
如何更加淡定的面对滚滚大模型的潮流
大模型出现的时候,有一种说法是程序员要被淘汰了,一年多的时间,程序员没有被淘汰,被淘汰的好像是没有用好AI的程
超越静态调优:HyperLLaVA如何重塑多模态大语言模型
无限长的上下文,也干不掉的RAG
之前有一个论调,说如果大模型支持足够长的上下文内容时候,是否就不在需要向量库。
实践中的(RAG)——提升大模型落地效果
记一次技术直播,昨天(0319)在ITPUB上进行了一场关于RAG在实际项目中,如何提升大模型落地效果的技术分
如何通过Vec2Text提升RAG的可解释性
引言 在数字化时代,文本嵌入技术因其在语义搜索、聚类和分类等任务中的高效性而广受欢迎。然而,随着这些技术的应用日益广泛,它们对个人隐私的潜在威胁也逐渐显现。
解析学术界AI研究的挑战与机遇:一场未完的讨论
我们一直关注AI带给人们便利的同时,好像忽略了有一大批人因此过的更加艰难,可能有人说技术革命的时候,落后的都会被时代巨轮碾压?过去。?但他们曾经存在过的痕迹是难以抹除的。最近阅读论文看到一篇与文章,分析了大模型时代下,对?学界研究的冲击。?
读过的最白话讲清楚RAG原理的文章
这篇文章将提供RAG的高级概述。我们将从正在发生的事情的大局工作流开始,然后放大所有单独的部分。最后,你应该对这三行神奇的代码是如何工作的,以及创建这些问答机器人所涉及的所有原则有了深刻的理解。
定义一个新的NLP游乐场
最近大型语言模型(LLMs)性能的爆炸式增长,比自然语言处理(NLP)领域80年历史上的任何其他转变都更突
RAG评估新增基准
学术界的AI研究:在资源饥饿下的挣扎与生存
原文:Choose Your Weapon:Survival Strategies for Depressed
多模态大语言模型(MLLMs)研究全景:视觉与文本的完美融合
从模型到复合AI系统的转变
2023年,大型语言模型(LLM)吸引了所有人的注意力,它可以通过提示来执行通用任务,例如翻译或编码。