QAnything (Question and Answer based on Anything) 是致力于支持任意格式文件或数据库的本地知识库问答系统。

任何格式的本地文件都可以往里扔，即可获得准确、快速、靠谱的问答体验，直接导入进去即可实现像"ChatGPT"一样问答。

目前已支持格式: PDF，Word(doc/docx)，PPT，Markdown，Eml，TXT，图片（jpg，png等），网页链接 ... 结合用户私有数据和大模型的优势——用户的任何内容，以任意的形式存在，都可以在 QAnything 的支持下，变成可以针对其内容进行问答的使用方式，通过这个技术框架用户可以很方便地搭建自己的智能知识助手。

QAnything 功能

一键上传多种格式文档

支持一键上传多种格式文档，也支持网页内容获取。

全面支持PDF、Word(doc/docx)、PPT、TXT、图片、邮件（eml）格式文档和网页链接。
具备答案溯源能力，用户可自主按照答案来源获取更多所需信息。

智能文档问答

利用大模型能力快速理解提问者意图，从知识库中提取有效信息，更快速、更高效的阅读并理解文档，提高工作效率和准确性。

智能文档问答可轻松实现知识归纳、构建、问答、推荐等，精准获取有效信息
支持聊天记录导入和导出，便于跨设备间的交流协作

创建专属知识库

可根据不同内容领域、访问权限等创建多知识库，无需人工整理，即可拥有专属AI助手，不断获取新知识。

可利用不同知识库的上传文档差异实现访问权限控制，避免无关信息外泄。
快速智能分析各类文档，提取文档摘要，快速实现全文通阅。
深入挖掘文档结构和细节，实现高效、准确信息识别和提取，更轻松地获取专业知识。

特点

数据安全，支持全程拔网线安装使用。
支持跨语种问答，中英文问答随意切换，无所谓文件是什么语种。
支持海量数据问答，两阶段向量排序，解决了大规模数据检索退化的问题，数据越多，效果越好。
高性能生产级系统，可直接部署企业应用。
易用性，无需繁琐的配置，一键安装部署，拿来就用。
支持选择多知识库问答。

架构

QAnything 的主要原理是基于检索增强的生成（Retrieval Augmented Generation，简称 RAG），能够利用检索外部内容的方式增强大语言模型的准确度、专业能力和个性化等各方面的性能。

为什么是两阶段检索?

知识库数据量大的场景下两阶段优势非常明显，如果只用一阶段embedding检索，随着数据量增大会出现检索退化的问题，二阶段rerank重排后能实现准确率稳定增长，即数据越多，效果越好。

部署运行

下载代码

git clone https://github.com/netease-youdao/QAnything.git

执行启动脚本

默认在0号GPU上启动

cd QAnything
bash run.sh  # 默认在0号GPU上启动

（可选）指定单GPU启动

cd QAnything
bash run.sh 0  # 指定0号GPU启动 GPU编号从0开始 windows机器一般只有一张卡，所以只能指定0号GPU

（可选）指定多GPU启动

cd QAnything
bash run.sh 0,1  # 指定0,1号GPU启动，请确认有多张GPU可用，最多支持两张卡启动

开始体验

运行成功后，即可在浏览器输入以下地址进行体验。访问: http://localhost:5052/qanything/

停止服务

bash close.sh

ITPub博客

AI好物推荐：QAnything万物皆可问