AnythingLLM 简介

AnythingLLM 是一个全栈应用程序，可以在其中使用商业现成 LLMs 的或流行的开源 LLMs 和 vectorDB 解决方案来构建一个私人 ChatGPT，可以在本地运行以及远程托管，并能够智能地与你提供的任何文档聊天。

AnythingLLM 将你的文档划分为称为 workspaces 。支持多用户管理和权限。

AnythingLLM 的功能

• 多用户实例支持和权限
• 多种文档类型支持（PDF、TXT、DOCX等）
• 从简单的 UI 管理矢量数据库中的文档
• 两种聊天模式 conversation 和 query .对话保留以前的问题和修改。查询是针对您的文档的简单 QA
• 链接到原始文档源和文本的聊天内引文
• 简单的技术栈，实现快速迭代
• 100% 云部署就绪。
• “自LLM带”模式。
• 用于管理超大型文档的极其有效的成本节约措施。您永远不会为多次嵌入大量文档或成绩单付费。比其他文档聊天机器人解决方案高 90% 的成本效益。
• 用于自定义集成的完整开发人员 API！

支持的 LLMs、 嵌入器和向量数据库

支持 LLMs

• Any open-source llama.cpp compatible model
• OpenAI
• Azure OpenAI
• Anthropic ClaudeV2
• Google Gemini Pro
• Ollama (chat models)
• LM Studio (all models)
• LocalAi (all models)
• Together AI (chat models)
• Mistral

支持的嵌入模型

• AnythingLLM Native Embedder (default)
• OpenAI
• Azure OpenAI
• LM Studio (all)
• LocalAi (all)

支持的矢量数据库

• LanceDB (default)
• Pinecone
• Chroma
• Weaviate
• QDrant
• Milvus
• Zilliz

技术概述

由三个主要部分组成：frontend ：一个 viteJS + React 前端，您可以运行它来轻松创建和管理LLM您可以使用的所有内容。server ：一个 NodeJS Express 服务器，用于处理所有交互并执行所有 vectorDB 管理和LLM交互。docker ：Docker 指令和构建过程 + 从源代码构建的信息。collector ：处理和解析 UI 中文档的 NodeJS Express 服务器。

总结

AnythingLLM，是一个开源的、企业级的聊天机器人解决方案，它就像是你的私人ChatGPT，帮你处理文档、回答问题，甚至是进行智能对话。

代码：https://github.com/Mintplex-Labs/anything-llm

参考

• 官网：https://useanything.com/
• github：https://github.com/Mintplex-Labs/anything-llm

• AI好物推荐：与 SQL 数据库聊天
• 利用 ChatGPT 实现情感分析