精选NAS应用商店
NasAppStore为飞牛OS、群晖、威联通等NAS系统提供海量精选免费适配应用,一站式安装管理,帮您轻松打造多媒体家庭私有云中心,发掘NAS更多潜力。

FastGPT - 开源低代码私有部署AI知识库平台

fastgpt

应用介绍

FastGPT 是一个基于大语言模型的开源低代码AI知识库平台,允许用户在自己的NAS上私有部署AI问答知识库,支持可视化拖拽工作流,灵活配置AI应用,非常适合个人和团队搭建私有AI助手和知识库服务。

使用FastGPT,你可以轻松导入各种文档(PDF、Word、Markdown等),自动进行文本分块和向量嵌入,然后基于你的私有知识库进行AI问答,AI会根据你的知识库内容生成准确回答,同时保护数据隐私,所有数据都保存在自己的NAS中,不会泄露到第三方。FastGPT支持多种大语言模型接入,包括OpenAI GPT系列、通义千问、文心一言、Llama 2等本地部署模型,也可以接入Ollama本地大模型,完全自由灵活配置。

FastGPT提供了强大的可视化工作流编排功能,你可以不用写一行代码,就能拖拽搭建复杂的AI应用流程,比如文档问答、内容生成、任务调度等,满足各种个性化AI需求。同时支持插件扩展,可以对接各种外部服务。

安装说明

前提依赖

FastGPT 需要依赖 Docker 和 Docker Compose 运行,同时需要 MongoDB 和 PostgreSQL 数据库,以及 OneAPI (用于管理大模型API密钥)和向量数据库(可选,默认使用PostgreSQL插件)。如果使用本地大模型,建议NAS配备至少16GB内存,显存根据模型大小而定。

安装配置

以下是简化的Docker Compose配置:

version: '3.3'
services:
  mongo:
    image: mongo:5.0.0
    restart: always
    volumes:
      - ./mongo:/data/db
    environment:
      MONGO_INITDB_ROOT_USERNAME: username
      MONGO_INITDB_ROOT_PASSWORD: password

  postgres:
    image: ankane/pgvector:latest
    restart: always
    volumes:
      - ./pg:/var/lib/postgresql/data
    environment:
      POSTGRES_USER: username
      POSTGRES_PASSWORD: password
      POSTGRES_DB: fastgpt

  fastgpt:
    image: labring/fastgpt:latest
    restart: always
    ports:
      - 3000:3000
    volumes:
      - ./config:/app/config
    environment:
      MONGODB_URI: mongodb://username:password@mongo:27017/fastgpt?authSource=admin
      PG_URL: postgresql://username:password@postgres:5432/fastgpt
    depends_on:
      - mongo
      - postgres

完整配置请参考官方文档,需要额外配置OneAPI来管理模型API。

使用说明

  1. 启动所有容器后,访问 http://你的NASIP:3000 即可访问FastGPT界面
  2. 注册管理员账号并登录,首先在系统设置中配置大模型API,可以接入OpenAI或者本地Ollama模型
  3. 创建新的知识库,上传你的文档,系统会自动进行处理和生成向量
  4. 创建AI应用,可以选择直接基于知识库问答,或者使用工作流编排复杂应用
  5. 分享应用给团队成员使用,支持权限管理和访问控制

开源信息

  • GitHub地址:https://github.com/labring/FastGPT
  • 官方文档:https://doc.fastgpt.in/
  • 演示网站:https://fastgpt.in/
  • 开源协议:MIT