ITPub博客

首页博客专栏学院社区 IT新媒体评选

发博

首页 > 数据库 > 数据库开发技术 > 效果炸裂！使用 GPT-4o 快速实现LLM OS

效果炸裂！使用 GPT-4o 快速实现LLM OS

原创数据库开发技术作者：玄姐聊AGI 时间：2024-05-24 08:18:00 0 删除编辑

▼最近直播超级多，预约保你有收获

—1—

什么是 LLM OS？

关于 LLM OS 的最初构想源自@karpathy 在2023年11月11日发布的一条Twitter 动态，这是 LLM OS 概念的最早出处，如下图所示：

LLM OS 主要有以下5个部分组成：

第一、LLM 作为「CPU」：OpenAI GPT-4 Turbo；

256 核心(即 batch size，数据送入 LLM 的批次大小)
处理器频率 @ 20Hz (tok/s，即吐 token 的速度)

第二、上下文窗口大小作为「RAM」: 128Ktok(GPT-4 Turbo 的水平)；

第三、嵌入工具作为「文件系统」: Ada002 是 OpenAI 的文本嵌入工具；

第四、外设 I/O：视频、音频；

第五、以太网：浏览器；

第六、软件 1.0 工具：经典计算机，计算器、代码解释器、终端等等；

第七、可与其他 LLM 互联。

—2—

LLM OS 开源实现

随着 OpenAI 发布 GPT-4o，语音、视频等多模态的输入和输出，让 LLM OS 的实现成为可能。接下来我们详细介绍下 LLM OS 的开源实现，目前已有 8.6k Stars，Github 地址如下所示：

https://github.com/phidatahq/phidata/tree/main/cookbook/llm_os

LLM OS 的整体架构设计如下图所示：

第一、大语言模型（LLMs）是新兴操作系统的核心进程。

这个进程（LLM）可以通过协调其他资源（内存、计算工具）来解决问题。

第二、LLM 操作系统：

可以读取/生成文本；
关于所有主题的知识都比任何单个人类更丰富；
可以浏览互联网；
可以使用现有的软件基础设施（计算器、Python、鼠标/键盘）；
可以查看和生成图像和视频；
可以听和说，并生成音乐；
可以使用 System2 进行长时间的思考；
可以在特定领域“自我提升；
可以针对特定任务进行定制和微调；
可以与其他 LLM 进行通信。

—3—

运行 LLM OS 开源实现

运行 LLM OS 开源实现 phidata 只需要简单如下5步操作：

第一步：Create a virtual environment

第二步：Install libraries

第三步：Export credentials

第四步：Run PgVector

第五步：Run the LLM OS App

为了帮助同学们彻底掌握 AI 大模型 Agent 智能体、知识库、向量数据库、 RAG、微调私有大模型的应用开发、部署、生产化，今天我会开场直播和同学们深度剖析，请同学们点击以下预约按钮免费预约。

—3—

领取 AI 大模型学习资料

不会吧，都2024年了，还有人在网盘、B站上爬学习资源？

今天给大家搞到的是一份大厂内部都在用的『AI 大模型学习资源』：

▶形式：直播公开课

▶费用：原价299，本号用户0元白嫖

▶内容：大模型原理、Agent、LangChain、Spring AI、RAG、向量数据库、知识库、私有大模型、算力评估...

扫码预约报名

👇『AI 大模型学习资源』👇

堪称资源界的YYDS！

“得此资源，堪比1000G网盘资源”

👇👇👇

本期名额有限

—4—

领取《AI 大模型技术知识图谱》

这份业界首创知识图谱和学习路线，今天免费送了!

第一步：长按扫码以下视频号，你身边需要一个 AI 专家。

第二步：点击"关注按钮"，就可关注。

第三步：点击"客服“按钮，回复“知识图谱”即可领取。

—5—

每日精选 AI 大模型知识

END

原文作者：玄姐聊AGI；如有侵权，请联系管理员删除。

上一篇：一个月获得 10K Stars！这个开源项目实在牛！

下一篇：吴恩达来信：如何编写更优的提示词？

请登录后发表评论登录

全部评论

注册时间：2020-11-03

博文量
314
访问量

143557

最新文章

北京盛拓优讯信息技术有限公司. 版权所有京ICP备16024965号-8 北京市公安局海淀分局网监中心备案编号：11010802021510 niuxiaotong@pcpop.com 17352615567 未成年人举报专区

广播电视节目制作经营许可证(京) 字第1234号中国互联网协会会员

违法和不良信息举报电话:18101376593