fastgpt
应用介绍
FastGPT 是一个基于大语言模型的开源低代码AI知识库平台,允许用户在自己的NAS上私有部署AI问答知识库,支持可视化拖拽工作流,灵活配置AI应用,非常适合个人和团队搭建私有AI助手和知识库服务。
使用FastGPT,你可以轻松导入各种文档(PDF、Word、Markdown等),自动进行文本分块和向量嵌入,然后基于你的私有知识库进行AI问答,AI会根据你的知识库内容生成准确回答,同时保护数据隐私,所有数据都保存在自己的NAS中,不会泄露到第三方。FastGPT支持多种大语言模型接入,包括OpenAI GPT系列、通义千问、文心一言、Llama 2等本地部署模型,也可以接入Ollama本地大模型,完全自由灵活配置。
FastGPT提供了强大的可视化工作流编排功能,你可以不用写一行代码,就能拖拽搭建复杂的AI应用流程,比如文档问答、内容生成、任务调度等,满足各种个性化AI需求。同时支持插件扩展,可以对接各种外部服务。
安装说明
前提依赖
FastGPT 需要依赖 Docker 和 Docker Compose 运行,同时需要 MongoDB 和 PostgreSQL 数据库,以及 OneAPI (用于管理大模型API密钥)和向量数据库(可选,默认使用PostgreSQL插件)。如果使用本地大模型,建议NAS配备至少16GB内存,显存根据模型大小而定。
安装配置
以下是简化的Docker Compose配置:
version: '3.3'
services:
mongo:
image: mongo:5.0.0
restart: always
volumes:
- ./mongo:/data/db
environment:
MONGO_INITDB_ROOT_USERNAME: username
MONGO_INITDB_ROOT_PASSWORD: password
postgres:
image: ankane/pgvector:latest
restart: always
volumes:
- ./pg:/var/lib/postgresql/data
environment:
POSTGRES_USER: username
POSTGRES_PASSWORD: password
POSTGRES_DB: fastgpt
fastgpt:
image: labring/fastgpt:latest
restart: always
ports:
- 3000:3000
volumes:
- ./config:/app/config
environment:
MONGODB_URI: mongodb://username:password@mongo:27017/fastgpt?authSource=admin
PG_URL: postgresql://username:password@postgres:5432/fastgpt
depends_on:
- mongo
- postgres完整配置请参考官方文档,需要额外配置OneAPI来管理模型API。
使用说明
- 启动所有容器后,访问
http://你的NASIP:3000即可访问FastGPT界面 - 注册管理员账号并登录,首先在系统设置中配置大模型API,可以接入OpenAI或者本地Ollama模型
- 创建新的知识库,上传你的文档,系统会自动进行处理和生成向量
- 创建AI应用,可以选择直接基于知识库问答,或者使用工作流编排复杂应用
- 分享应用给团队成员使用,支持权限管理和访问控制
开源信息
- GitHub地址:https://github.com/labring/FastGPT
- 官方文档:https://doc.fastgpt.in/
- 演示网站:https://fastgpt.in/
- 开源协议:MIT