-
编辑 删除
发掘非结构化数据价值：AI 在文档理解领域的现状与未来
在当今这个由数据主导的时代，我们被海量多样的信息所环绕，但大部分数据都以非结构化的形式存在，诸如文档、电子邮件、合同等，这使得从中提取有价值的信息成为一大挑战。 幸运的是，AI 领域正在悄然孕育一场革命性变革，它将帮助我们攻克长期以来困扰非结构化数据处理的种种困难。
-
编辑 删除
Mistral AI vs. Meta：两大 Top 开源模型的对比
随着大模型的不断升级和参数量的持续扩大，越来越多人开始重视大模型存在的硬件资源要求高、碳排放量较大等问题。如何在保持模型性能的同时，降低计算成本和资源消耗，成为了业界一个迫切需要解决的问题。 我们今天为大家带来的这篇文章，作者认为 Mistral AI 提出的一系列创新技术方案为解决这一问题提供了新思路。
-
编辑 删除
生成式 AI 术语指南：带有配图说明，没有数学公式
生成式人工智能技术的发展日新月异，这一领域涉及到了越来越多的专业术语和概念。对于刚接触这一领域的新手来说，理解这些术语算是一个门槛。我们有必要整理和解释这些术语，帮助更多人快速入门，投身 AI 事业。 文章首先将这些生成式 AI 术语分为 11 大类，包括 Types of Models、Common LLM Terms、LLM Lifecycle Stages 等。然后对每一类术语进行了详细的解释和举例说明。
-
编辑 删除
LLM 推理优化探微 (3) ：如何有效控制 KV 缓存的内存占用，优化推理速度？
本文是该系列文章的第三篇，作者的观点是：多头注意力（MHA）模型的 KV 缓存确实会消耗大量 GPU 内存，并且很容易增长到比模型权重还大的规模， KV 缓存大小的控制对于优化大模型的推理至关重要。
-
编辑 删除
LLM 推理优化探微 (2) ：Transformer 模型 KV 缓存技术详解
本文是该系列文章的第二篇，作者的核心观点是：KV 缓存可以显著减少语言模型的运算量，从而提高其生成文本的效率，但是这种技术并非免费的午餐。
-
编辑 删除
化是渐化，变是顿变：一窥 OpenAI Sora 相关技术的演进
近期，OpenAI 发布通用视觉大模型 Sora ，这也是继文本模型 ChatGPT 和图片模型 Dall-E 之后，又一极具颠覆性的大模型产品，人们重新思考了生成式 AI 在视觉内容创作领域的应用前景，内容创作工作流有望被颠覆。 我们今天要为大家分享的这篇博文，作者认为 Sora 代表了 Transformer、NaViT、扩散模型等一系列视觉 AI 技术的融合创新，是迈向通用人工智能的重要一步。
-
编辑 删除
OpenAI Sora 关键技术详解：揭秘时空碎片 (Spacetime Patches) 技术
近日，OpenAI 发布其首 个视频生成模型“Sora”，该模型生成的视频内容可以呈现出多个角色、特定动作以及复杂场景，为构建能够理解和模拟现实世界的人工智能模型奠定了基础。 本文解析的重点即是 Sora 背后的核心技术 Spacetime Patches，作者认为该技术通过创新的时空数据建模方法，让 Sora 学会预测时空维度上事件和对象的变化、运动和互动，从而建立起视频世界的物理模型，生成极其逼真的视频。
-
编辑 删除
LLM 模型融合实践指南：低成本构建高性能语言模型
随着大语言模型技术的快速发展，模型融合成为一种低成本但高性能的模型构建新途径。本文作者 Maxime Labonne 利用 mergekit 库探索了四种模型融合方法：SLERP、TIES、DARE和passthrough。通过配置示例和案例分析，作者详细阐释了这些算法的原理及实践操作。 作者的核心观点是：相比训练全新模型，融合现有模型可以以更低计算成本获取类似或更优异的效果。
-
编辑 删除
LLM 推理优化探微 (1) ：Transformer 解码器的推理过程详解
随着 LLM 赋能越来越多需要实时决策和响应的应用场景，以及用户体验不佳、成本过高、资源受限等问题的出现，大模型高效推理已成为一个重要的研究课题。为此，Baihai IDP 推出 Pierre Lienhart 的系列文章，从多个维度全面剖析 Transformer 大语言模型的推理过程，以期帮助读者对这个技术难点建立系统的理解，并在实践中做出正确的模型服务部署决策。
-
编辑 删除
探讨 LLM 的潜在风险 (偏见与毒性等)，是否存在解决之道？
随着 GPT-4 等大语言模型(LLM)的蓬勃发展，人们开始关注它们在社会伦理、安全性和偏见等方面的表现。 本文探讨了 LLM 在偏见、毒性和越狱方面的最新研究进展。作者的核心观点是，LLM 仍存在一定的偏见问题，但相关公司正在努力改进，LLM 的整体发展趋势是向好的。
-
编辑 删除
如何写好大模型提示词？来自大赛冠 军的经验分享（进阶篇）
本系列文章详细介绍了作者在新加坡首届 GPT-4 Prompt Engineering 大赛中使用的策略技巧，包括：使用 CO-STAR 框架构建提示语、使用分隔符明确语义单元、利用system prompts 添加行为约束、仅依靠GPT-4对数据集进行分析等。这些技巧都得到了实例验证，证明了Prompt Engineering 的重要作用。
-
编辑 删除
如何写好大模型提示词？来自大赛获奖选手的经验分享（基础篇）
本系列文章详细介绍了作者在新加坡首届 GPT-4 Prompt Engineering 大赛中使用的策略技巧，包括：使用 CO-STAR 框架构建提示语、使用分隔符明确语义单元、利用 system prompts 添加行为约束、仅依靠GPT-4对数据集进行分析等。这些技巧都得到了实例验证，证明了 Prompt Engineering 的重要作用。
-
编辑 删除
Prompt Engineering 可能会是 2024 年最热门的“编程语言”？
“Prompt Engineering”是否已经过时？模型本身的能力是否已经足够，不再需要特意设计 prompt？ 我们今天为大家带来的文章，作者认为 Prompt Engineering 不会过时，相反随着模型能力的增强，编写高质量 prompt 的重要性也将继续增加。
