▼最近直播超级多，预约保你有收获

—1—

Spring AI 开发框架介绍

Spring AI 借鉴了 LangChain（Python）的灵感，后者支持与 AI 和多种 LLM 集成。目前 Spring AI 提供了多种大模型和向量数据库供您选择。可以登录官网（https://spring.io/projects/spring-ai）查看 Spring AI 的更详细文档。

今天的 Spring AI 项目中会使用到 Vaadin，Vaadin 是一个基于 Java 和 Kotlin 的 Web 应用开发框架。

—2—

开始构建大模型应用项目

第一、需求

开发一款能够汇总股票市场周报的工具。

第二、项目效果

项目效果如下：

第三、架构设计

整体架构设计如下分为3个步骤：

设置 RAG
使用 Vaadin 设计 UI 界面
创建业务流程

步骤一、设置 RAG 检索增强生成

在该项目中，我利用 Apache Tika 来解析位于 /resources 目录中的 PDF 文件。

在大模型应用程序启动过程中，系统会开始读取 PDF 文件，并将数据 Embedding 后存储到向量数据库中。

RAG 将检索增强的前后端进行了分离，如下图所示：

步骤二、使用 Vaadin 的 UI

这是一个简易的消息输入界面，用于接收提示信息（尝试构建一个类似 ChatGPT 的用户界面，但采用的是 Vaadin 框架）。

步骤三、创建业务流程

最后但同样重要的一步是，我们将构建一个服务来与大模型进行通信。这包括添加系统提示词，我们将使用 HashMap 进行值的替换，接着利用 SystemPromptTemplate 生成消息，最后将其发送给大语言模型 (LLM)。

第四、项目集成

首先，我们在本地进行手动测试 Ollama。


spring:  ai:    ollama:      base-url: ${AI_OLLAMA_BASE_URL:<http://localhost:11434>}      chat:        options:          model: llama3:8b

第五、项目完整代码

项目完整开源代码 Github 地址：

https://github.com/qianniucity/financial-weekly

为了帮助同学们彻底掌握 AI 大模型 Agent 智能体、知识库、向量数据库、 RAG、微调私有大模型的应用开发、部署、生产化，今天我会开场直播和同学们深度剖析，请同学们点击以下预约按钮免费预约。

—3—

领取 AI 大模型学习资料

今天给大家搞到的是一份大厂内部都在用的『AI 大模型学习资源』：

▶形式：直播公开课

▶费用：原价299，本号用户0元白嫖

▶内容：大模型原理、Agent、LangChain、Spring AI、RAG、向量数据库、知识库、私有大模型、算力评估...

扫码预约报名

👇『AI 大模型学习资源』👇

堪称资源界的YYDS！

“得此资源，堪比1000G网盘资源”

👇👇👇

本期名额有限

—4—

领取《AI 大模型技术知识图谱》

这份业界首创知识图谱和学习路线，今天免费送了!

第一步：长按扫码以下视频号，你身边需要一个 AI 专家。

第二步：点击"关注按钮"，就可关注。

第三步：点击"客服“按钮，回复“知识图谱”即可领取。

—5—

每日精选 AI 大模型知识

END

ITPub博客

Spring AI + Ollama 快速构建大模型应用程序（含源码）

最新文章