ITPub博客

微调大型语言模型（LLM）是一个环环相扣的系统性工程，大致可划分为七个关键阶段。这七个阶段包括：数据集准备、模型初始化、训练环境设置、模型微调、评估验证、部署上线以及监控维护[3]。具体如图5.1所示。图5.1  模型微调的七阶段流程每个阶段都是将预训练模型适配具体任务的核心环节，直接关系到最终的模型性能。从最开始的数据集筹备，到模型初始化、训练环境搭建，再到微调实施、效果评估验证，直至

本节从国内外综述性论文文献入手，对微调这一概念进行介绍分析[1,2]，揭示其本质含义，然后归纳出微调的三大类型[3]。5.1.1  微调定义微调作为迁移学习的典型范式，其理论概念可追溯至2018年前后[4]，但在Devlin J等人里程碑式的工作[5]发表后成为主流术语。在该研究中，Devlin J等人将BERT模型首先使用预训练参数初始化，然后利用下游任务的标注数据对所有参数进行监督式

Qwen3所实现的工具调用机制，使得大模型在自然语言处理、智能客服、内容生成等众多领域展现出了强大的实力。然而，随着人工智能技术在特定领域和垂直行业的深入应用，我们逐渐发现，一些专业场景下的大模型面临着新的挑战。这些特定领域和垂直行业的大模型，由于训练数据和应用场景的特殊性，往往本身不具备或者无法直接执行某些特定的工具调用。例如，在医疗领域，大模型可能需要调用专业的医学诊断工具来获取准确的诊断结果

零样本提示（Zero-Shot Prompting）是提示工程中最基础也是最神奇的技术之一。简单来说，它就是在不提供任何示例的情况下，直接告诉AI模型你想要它完成什么任务，让模型完全依靠其预训练知识来理解并执行任务[9]。想象一下，你雇佣了一位博学的助手，但你从来没有告诉过他如何做某项具体工作。你只是描述了任务本身，他就能凭借自己的知识和理解来完成。这就是零样本提示的工作原理。1. 核心特征零样本

大模型具有一个十分强大的功能就是可以自主调用外部工具函数，以自主意识的形式借用工具，完成使用者发布的命令。这意味着大模型不再只是一个被动的执行者，而是一个具有主动性的智能助手。大模型的工具调用功能是一项具有划时代意义的进步。这一功能的实现，使得大模型不再局限于自身数据库知识的回答，而是跃进到了一个全新的层次—调用外部函数，其调用流程如图9-1所示。      &nbs

本文设计一个分层Agent跨境电商智能客服架构，智能客服设计人员可借鉴思路。随着生成式AI的演进，LLM已突破传统对话系统的边界，开始展现出元认知能力。通过将大语言模型与工具调用接口、记忆存储模块、强化学习框架集成，新型AI系统不仅能理解抽象目标，而且能自主规划任务路径、实时获取异构数据、动态调整行动策略，这种具备“目标-决定-执行”三重能力的智能形态，正推动AI从被动工具向主动协作伙伴的范式转变

在人工智能技术蓬勃发展的浪潮中，智能体作为实现复杂任务自主处理的核心载体，其技术演进路径成为推动人机协同与智能系统升级的关键方向。当前，智能体技术正从单一功能模块向具备高度自适应与泛化能力的复杂系统转变，这一进程深刻体现在架构设计、知识管理与交互策略的多维度突破中。智能体的组件模块如图6-2所示。              &n

为了实现对图像、文本、音频、视频等多种模态信息的统一建模，多模态大模型在架构设计上发展出多种范式。不同架构在输入融合方式、模态对齐策略、信息传递路径等方面各有侧重。总体而言，当前主流多模态大模型的架构可归纳为以下几类：编码器-解码器架构（encoder-decoder）、双编码器架构（dual-encoder）、统一Transformer架构（unified Transformer）、交叉注意力融

RAG是一种将信息检索与文本生成相结合的技术方案，旨在提升大模型在特定知识场景下回答的准确性和可靠性。传统RAG将用户问题转换为向量，并在知识库中进行语义匹配，检索出相关文档片段，再交由大模型生成答案。这种方式有效缓解了大模型的幻觉问题，使输出内容更具依据性与可解释性。然而，传统RAG在实际应用中仍面临多重挑战：一是召回不完全，关键信息可能未被检索到；二是召回内容不够精准，混杂大量无关信息；三是上

在当前自然语言处理领域中，Decoder-only架构作为生成式任务的主流模型结构，因其结构简洁、推理高效而受到广泛关注。该架构源自Transformer结构中的解码器模块，摒弃了传统编码器-解码器模型中复杂的信息交互机制，完全由多个堆叠的Transformer解码器层组成，如图2.4所示[4]。每一层通过自注意力机制建模已有的上下文信息，在时间维度上遵循严格的自回归范式，即模型仅依赖于当前时间步

1. 模型架构BERT[4]是由Google于2018年提出的一种具有里程碑意义的预训练语言模型，其问世极大地推动了自然语言处理技术的发展。特别是在各类语言理解任务中，BERT展现出卓越的性能，成为后续众多模型设计的重要参考。与早期多数基于单向语言模型或浅层上下文建模的方法不同，BERT在预训练阶段引入双向上下文编码机制，即通过同时考虑词语左右两侧的上下文信息，有效捕捉词语间更为细腻和深层的语义关

在上一节中，我们讲解了模型蒸馏的基本概念，了解到对大模型数据进行蒸馏并提供给学生模型进行训练，是一个很好的解决办法。本节将演示从数据获取开始，通过在线DeepSeek蒸馏获得一整套完整的mini蒸馏集的过程。13.2.1  模型蒸馏的前置准备对于模型蒸馏的前置准备工作，其核心要点在于依据特定要求精准获取相应的数据。在前面的讲解中，我们深入剖析了在线与离线这两种截然不同的大模型蒸馏方法。尽

思维链技术开启了人工智能通向人类智能的崭新路径。它让模型不再仅仅是机械地执行指令，而是开始具备类似人类的思考方式，能够理解问题的本质，进行深层次的推理和分析。这一突破，让人工智能的发展进入了一个全新的阶段，也为未来智能系统的进化奠定了坚实的基础。前面我们讲解了思维链，对比了通过Prompt提示完成的思维链对问题的拆解。基于这种思维链的推理过程，DeepSeek提出了一种新的推理模型——DeepSe

大语言模型若想实现语境化推理（即上下文学习），离不开高质量且富含上下文信息的数据支撑，这是其完成问题回答、内容生成以及驱动AI代理等各类任务的重要基石。高效的数据传递机制犹如大语言模型的“信息高速路”，能确保模型在恰当的时机获取精准信息，而这直接关乎其响应的准确性与实用性。数据传递的速度快慢、质量优劣以及结构化程度高低，都对大语言模型输出的实际应用价值起着决定性作用。无论是实时洞察市场动态、精准提

本文介绍使用扣子开发平台开发一个自动生成PPT的智能体，流程清晰，操作简单，关键是免费，值得我们尝试和掌握这个技能。在当今快节奏的办公环境中，PPT制作已成为许多职场人士的必备技能。无论是项目汇报、培训演示还是商业提案，优质的PPT都能有效提升沟通效果和工作效率。然而，制作一份专业的PPT往往需要耗费大量时间和精力，从内容构思到排版设计，每个环节都要求较高的专业素养。本文将详细介绍如何借助扣子平台

离散化是将连续变量转换为有限数量的离散类别，以简化数据处理和分析。通过将数据划分为若干区间或类别，离散化可以提高模型对数据的处理能力，尤其是对于某些只处理离散特征的算法，如决策树和朴素贝叶斯。此外，离散化还能减少异常值的影响，使数据分布更加均匀，从而提高模型的健壮性和预测性能。这种处理方式不仅使数据更符合模型的要求，还能在数据分布不均时提供更好的稳定性和解释性。6.4.1  等距离散化等

数据采集是指从各种信息源获取数据的过程。对于智能运维而言，这包括从IT系统、应用程序、网络设备、用户行为等多个来源采集有关系统性能、健康状况、用户活动等方面的数据。数据采集是智能运维的基础，为后续的数据分析、自动化决策和问题解决提供支持。例如，实时获取系统状态数据，可以快速识别和响应异常情况；收集性能数据，用来评估和优化系统的运行效率；记录系统行为和错误信息，以帮助分析和排查故障；积累历史数据，进

数据清洗的过程包括处理缺失值、去除重复记录、纠正数据错误和标准化数据格式。有效的数据清洗能够提高数据的准确性和一致性，为后续的数据分析和建模奠定坚实的基础。本文讲解去除重复记录的方法。重复记录是指数据集中存在的多条相同的记录。去除重复记录可以减少数据冗余，保证数据的唯一性。通常通过识别唯一标识符来进行去重处理。在运维工作中，经常需要分析服务器访问日志。示例6-3首先生成模拟的Web服务器访问日志数

在人工智能与机器学习领域，模型的后训练阶段不仅是技术流程中的关键环节，更是提升模型性能，尤其是数学逻辑能力的“黄金时期”。这一阶段，通过对已初步训练好的模型进行精细化调优，能够显著增强其处理复杂数学逻辑任务的能力，使模型在诸如数学推理、数据分析、决策优化等场景中展现出更高的智能水平。模型的后训练，本质上是对模型参数进行二次优化，旨在消除初次训练中的偏差与不足，提升模型的泛化能力和逻辑推断精度。特别

我们知道，基于PPO算法的火箭回收案例非常经典，从其实现过程可以看到，通过对整体的操作描述和控制，我们可以更好地对火箭降落的全过程进行优化。由于篇幅问题，我们直接把这个火箭回收案例代码放在配套资源中，请读者在学习本节之前，先通过运行案例代码弄清楚PPO算法。本节将延续这一自动火箭回收的经典案例，使用新的强化学习算法GRPO来完成一项新的强化学习控制技术。14.1.1  CartPole强