全部博文
-
编辑 删除
LEANN：一个极简的本地向量数据库
在软件开发领域，提到轻量级、嵌入式的本地数据库，我们首先会想到 SQLite，它快速且无需独立服务进程。现在检索增强生成（RAG）和向量数据库的世界里，一个定位相似的新工具出现了。
-
编辑 删除
PyTorch 分布式训练底层原理与 DDP 实战指南
深度学习模型参数量和训练数据集的爆炸式增长，以 Llama 3.1 为例：4050 亿参数、15.6 万亿 token 的训练量，如果仅靠单 GPU可能需要数百年才能跑完，或者根本无法加载模型。
-
编辑 删除
LightRAG 实战： 基于 Ollama 搭建带知识图谱的可控 RAG 系统
LightRAG 是个开源的 RAG 框架，专门用来快速搭建模块化的检索增强生成管道。这个项目在 GitHub 上热度不低，我们今天来看看他到底怎么用
-
编辑 删除
FastMCP 入门：用 Python 快速搭建 MCP 服务器接入 LLM
Model Context Protocol (MCP) 这个协议简单说就是给大语言模型接入外部数据和工具提供了一套标准化方案。MCP 统一了模型和各种数据源、工具服务之间的交互方式。
-
编辑 删除
近端策略优化算法PPO的核心概念和PyTorch实现详解
近端策略优化(Proximal Policy Optimization, PPO)作为强化学习领域的重要算法，在众多实际应用中展现出卓越的性能。本文将详细介绍PPO算法的核心原理，并提供完整的PyTorch实现方案。
-
编辑 删除
技术解读 | 搭建NL2SQL系统需要大模型么？
近年来，大模型（LLMs）的热潮推动了自然语言处理（NLP）任务的广泛进展，NL2SQL（自然语言转SQL）作为热门任务之一也不例外。
