AI工具 部署完整教程｜一键部署

随着大模型能力的快速发展，越来越多企业、团队和个人开始搭建自己的 AI 工具平台，例如 AI 聊天助手、知识库问答系统、自动化写作工具、智能客服、AI 工作流平台等。相比直接使用第三方在线服务，自行部署 AI 工具具有更高的数据安全性、更灵活的模型选择能力，也更适合企业内部使用。

本文将以“一键部署 AI 工具平台”为目标，系统讲解从服务器准备、环境安装、Docker 部署、域名访问、HTTPS 配置、模型接入到后期维护的完整流程。即使你不是专业运维人员，也可以按照本文步骤完成部署。

一、部署前需要了解什么？

在正式开始之前，我们先明确几个概念。

所谓“AI 工具部署”，通常指的是将一个 AI 应用或 AI 平台部署到自己的服务器上，使其能够通过网页访问，并连接大语言模型、向量数据库、知识库、插件、API 等能力。

常见的 AI 工具包括：

• Open WebUI：常用于搭配 Ollama，实现本地大模型聊天界面；
• Dify：开源 AI 应用开发平台，支持工作流、知识库、智能体；
• FastGPT：适合搭建知识库问答、企业智能客服；
• MaxKB：轻量级知识库问答系统；
• AnythingLLM：适合个人或团队知识库聊天；
• Ollama：本地大模型运行工具，可运行 Llama、Qwen、DeepSeek 等模型；
• ChatGPT Next Web：轻量级 ChatGPT 网页客户端。

本文不只针对某一个具体工具，而是给出一套通用部署思路，并以 Docker / Docker Compose 为核心实现“一键部署”。如果你后续要部署不同 AI 工具，也可以套用这套流程。

二、服务器配置建议

AI 工具部署对服务器的要求取决于你是否需要在本地运行大模型。

如果你只是部署 Web 平台，然后调用 OpenAI、DeepSeek、通义千问、智谱、Moonshot、Claude 等在线模型 API，那么服务器配置要求并不高。

1. 仅调用 API 的推荐配置

适合部署 Dify、FastGPT、ChatGPT Web、知识库平台等。

2. 本地运行大模型的推荐配置

如果你想在服务器本地通过 Ollama、vLLM、LM Studio Server 等方式运行大模型，则需要更高配置，尤其是显卡。

如果只是学习和测试，可以先选择 API 调用方案，部署成本更低，也更稳定。

三、准备服务器环境

本文以 Ubuntu 22.04 为例。如果你使用的是 Debian、CentOS、Alibaba Cloud Linux 或其他系统，命令可能略有不同，但整体流程类似。

首先通过 SSH 登录服务器：

ssh root@你的服务器IP

登录后建议先更新系统软件包：

apt update && apt upgrade -y

安装常用工具：

apt install -y curl wget git vim unzip ca-certificates gnupg lsb-release

设置服务器时区为中国上海：

timedatectl set-timezone Asia/Shanghai

查看时间是否正确：

date

四、安装 Docker

目前大多数 AI 工具都支持 Docker 部署，这是最推荐的方式。Docker 可以减少环境冲突，让应用部署更简单、更稳定。

1. 使用官方脚本安装 Docker

执行以下命令：

curl -fsSL https://get.docker.com | bash

安装完成后，查看 Docker 版本：

docker -v

启动 Docker 并设置开机自启：

systemctl enable docker
systemctl start docker

检查 Docker 是否正常运行：

systemctl status docker

如果看到 active (running)，说明 Docker 已经成功启动。

五、安装 Docker Compose

新版 Docker 通常已经集成了 Compose 插件。可以使用以下命令查看：

docker compose version

如果能够看到版本号，说明已经安装成功。

如果没有安装，可以执行：

apt install -y docker-compose-plugin

再次检查：

docker compose version

六、一键部署 AI 工具的基本思路

所谓“一键部署”，本质上是把复杂的安装步骤写进一个配置文件，例如 docker-compose.yml，然后通过一条命令启动所有服务。

一般来说，一个完整 AI 工具平台可能包含以下组件：

• Web 前端服务；
• 后端 API 服务；
• 数据库，如 PostgreSQL、MySQL；
• 缓存服务，如 Redis；
• 向量数据库，如 Milvus、Qdrant、Weaviate；
• 文件存储服务；
• 大模型运行服务，如 Ollama；
• 反向代理服务，如 Nginx、Caddy、Traefik。

使用 Docker Compose 后，我们不需要一个个手动安装这些组件，只需要执行：

docker compose up -d

即可自动拉取镜像、创建容器、配置网络并后台运行。

七、方案一：一键部署 Open WebUI + Ollama

如果你的目标是快速搭建一个类似 ChatGPT 的本地 AI 聊天界面，那么 Open WebUI + Ollama 是非常适合的方案。

Open WebUI 提供网页聊天界面，Ollama 负责运行本地模型。

1. 创建部署目录

mkdir -p /opt/ai-tools/open-webui
cd /opt/ai-tools/open-webui

2. 创建 docker-compose.yml 文件

vim docker-compose.yml

写入以下内容：

services:
  ollama:
    image: ollama/ollama:latest
    container_name: ollama
    restart: always
    volumes:
      - ./ollama:/root/.ollama
    ports:
      - "11434:11434"

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: open-webui
    restart: always
    depends_on:
      - ollama
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
    volumes:
      - ./open-webui:/app/backend/data
    ports:
      - "3000:8080"

保存后退出。

3. 启动服务

docker compose up -d

查看容器状态：

docker ps

如果看到 ollama 和 open-webui 都处于运行状态，说明部署成功。

4. 访问后台

在浏览器中访问：

http://你的服务器IP:3000

首次访问需要注册管理员账号。

5. 下载模型

进入 Ollama 容器：

docker exec -it ollama bash

下载 Qwen 模型：

ollama pull qwen2.5:7b

或下载 Llama 模型：

ollama pull llama3.1:8b

下载完成后，可以在 Open WebUI 页面中选择模型并开始对话。

八、方案二：一键部署 Dify AI 应用平台

如果你想搭建更完整的 AI 应用开发平台，例如工作流、知识库、智能体、API 发布等，Dify 是非常常见的选择。

Dify 相比普通聊天工具更适合团队和企业使用，它可以创建多种 AI 应用，包括：

• 聊天助手；
• 文本生成应用；
• 工作流应用；
• 知识库问答；
• 智能客服；
• 数据分析助手；
• 内部办公助手。

1. 克隆 Dify 项目

mkdir -p /opt/ai-tools
cd /opt/ai-tools
git clone https://github.com/langgenius/dify.git
cd dify/docker

2. 复制环境变量文件

cp .env.example .env

3. 修改配置文件

vim .env

常见需要修改的配置包括：

CONSOLE_WEB_URL=http://你的服务器IP
SERVICE_API_URL=http://你的服务器IP
APP_WEB_URL=http://你的服务器IP

如果后面要绑定域名，则可以改成：

CONSOLE_WEB_URL=https://ai.example.com
SERVICE_API_URL=https://ai.example.com
APP_WEB_URL=https://ai.example.com

4. 启动 Dify

docker compose up -d

首次启动会拉取多个镜像，耗时可能较长。完成后查看容器：

docker ps

如果所有服务都正常运行，就可以访问：

http://你的服务器IP

Dify 默认会通过 Nginx 暴露 Web 服务。

5. 初始化管理员账号

首次访问 Dify 页面时，根据提示创建管理员账号。登录后，你可以在“设置”中配置模型供应商，例如：

• OpenAI；
• Azure OpenAI；
• Anthropic；
• DeepSeek；
• 通义千问；
• 智谱 AI；
• Moonshot；
• Ollama；
• OpenAI API 兼容接口。

九、接入大模型 API

部署好 AI 工具平台后，下一步就是接入模型。大多数 AI 平台都支持 OpenAI API 兼容格式，因此你可以接入多种模型服务。

1. OpenAI 兼容接口通常包含三项

API Key
API Base URL
Model Name

例如：

API Key: sk-xxxxxx
API Base URL: https://api.openai.com/v1
Model Name: gpt-4o-mini

如果接入 DeepSeek，通常类似：

API Key: sk-xxxxxx
API Base URL: https://api.deepseek.com/v1
Model Name: deepseek-chat

如果接入本地 Ollama，则地址一般为：

http://ollama:11434

或服务器访问：

http://你的服务器IP:11434

2. 模型选择建议

如果用于日常写作、总结、客服，可以选择成本较低、速度较快的模型。如果用于代码生成、复杂推理、数据分析，则建议选择能力更强的模型。

一般建议：

• 日常聊天：轻量模型即可；
• 知识库问答：选择上下文能力较好的模型；
• 代码开发：选择代码能力强的模型；
• 工作流自动化：选择稳定性较高的模型；
• 企业生产环境：优先选择响应稳定、价格透明的服务商。

十、绑定域名访问

直接使用 IP 加端口访问不够专业，也不方便后续配置 HTTPS。建议准备一个域名，例如：

ai.example.com

在域名解析服务商中添加一条 A 记录：

主机记录：ai
记录类型：A
记录值：你的服务器IP

等待 DNS 生效后，可以在本地测试：

ping ai.example.com

如果解析到你的服务器 IP，说明域名配置成功。

十一、使用 Nginx 配置反向代理

如果你部署的是 Open WebUI，默认访问端口是 3000。为了让用户通过域名直接访问，可以使用 Nginx 做反向代理。

1. 安装 Nginx

apt install -y nginx

启动并设置开机自启：

systemctl enable nginx
systemctl start nginx

2. 创建站点配置

vim /etc/nginx/sites-available/ai.conf

写入：

server {
    listen 80;
    server_name ai.example.com;

    location / {
        proxy_pass http://127.0.0.1:3000;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;

        proxy_http_version 1.1;
        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection "upgrade";
    }
}

启用配置：

ln -s /etc/nginx/sites-available/ai.conf /etc/nginx/sites-enabled/ai.conf

检查配置：

nginx -t

重载 Nginx：

systemctl reload nginx

现在可以访问：

http://ai.example.com

十二、配置 HTTPS 证书

生产环境强烈建议开启 HTTPS。可以使用 Certbot 免费申请 Let’s Encrypt 证书。

1. 安装 Certbot

apt install -y certbot python3-certbot-nginx

2. 申请证书

certbot --nginx -d ai.example.com

按照提示输入邮箱并确认即可。成功后访问：

https://ai.example.com

3. 测试证书自动续期

certbot renew --dry-run

如果没有报错，说明自动续期配置正常。

十三、防火墙与安全设置

AI 工具一旦暴露到公网，就必须重视安全。

1. 开放必要端口

如果使用 UFW：

apt install -y ufw
ufw allow 22
ufw allow 80
ufw allow 443
ufw enable

如果需要临时开放 Open WebUI 端口：

ufw allow 3000

但生产环境建议不要直接暴露应用端口，而是只开放 80 和 443，通过 Nginx 转发。

2. 修改 SSH 默认端口

为了减少暴力破解风险，可以修改 SSH 端口：

vim /etc/ssh/sshd_config

找到：

#Port 22

改为：

Port 22222

重启 SSH：

systemctl restart ssh

注意：修改前一定要先在防火墙和云服务器安全组中放行新端口，避免无法登录。

3. 禁止弱密码

建议：

• 使用复杂密码；
• 或使用 SSH 密钥登录；
• 禁止 root 密码登录；
• 定期更新系统；
• 不要公开 API Key；
• 后台管理账号开启强密码。

十四、数据持久化与备份

很多人部署 AI 工具时只关注启动成功，却忽略了数据持久化。实际上，账号、知识库、上传文件、数据库、模型文件都需要妥善保存。

Docker Compose 中的 volumes 就是数据持久化的关键。例如：

volumes:
  - ./open-webui:/app/backend/data

这表示容器内的数据会保存到服务器当前目录下的 open-webui 文件夹中。即使容器删除，只要该目录还在，数据就不会丢失。

1. 备份部署目录

例如备份 Open WebUI：

cd /opt/ai-tools
tar -czvf open-webui-backup.tar.gz open-webui

2. 备份数据库

如果工具使用 PostgreSQL，可以进入数据库容器导出：

docker exec -t postgres pg_dumpall -c -U postgres > backup.sql

恢复时执行：

cat backup.sql | docker exec -i postgres psql -U postgres

不同项目的数据库容器名称可能不同，需要根据实际情况调整。

十五、更新 AI 工具

Docker 部署的应用更新相对简单。

进入项目目录：

cd /opt/ai-tools/open-webui

拉取最新镜像：

docker compose pull

重新启动：

docker compose up -d

清理无用镜像：

docker image prune -f

如果是 Dify 这种通过 Git 克隆的项目，可以先拉取代码：

cd /opt/ai-tools/dify
git pull
cd docker
docker compose pull
docker compose up -d

更新前建议先备份数据，尤其是生产环境。

十六、常见问题排查

1. 容器启动失败怎么办？

查看容器状态：

docker ps -a

查看日志：

docker logs 容器名称

如果使用 Compose：

docker compose logs -f

根据日志中的错误信息排查，常见原因包括端口占用、环境变量错误、数据库连接失败、磁盘空间不足等。

2. 端口被占用怎么办？

查看端口占用：

ss -tulnp | grep 3000

如果某个端口已经被占用，可以修改 docker-compose.yml 中左侧的宿主机端口，例如：

ports:
  - "3001:8080"

左边是服务器端口，右边是容器端口。

3. 页面打不开怎么办？

可以按顺序检查：

docker ps
systemctl status nginx
nginx -t
ufw status

同时确认云服务器安全组是否放行了对应端口。很多时候服务器内部已经正常运行，但云平台安全组没有放行端口，导致外部无法访问。

4. 模型响应很慢怎么办？

可能原因包括：

• 服务器配置较低；
• 本地模型太大；
• 网络访问 API 较慢；
• 并发用户过多；
• 向量库检索数据量过大；
• 没有使用 GPU 加速。

解决方案：

• 更换轻量模型；
• 使用云端 API；
• 增加服务器配置；
• 开启缓存；
• 优化知识库切分；
• 限制并发请求。

十七、推荐的一键部署脚本示例

如果你希望真正做到“一键部署 Open WebUI + Ollama”，可以创建一个脚本。

vim install-ai.sh

写入：

#!/bin/bash

set -e

echo "开始安装 Docker..."
if ! command -v docker >/dev/null 2>&1; then
  curl -fsSL https://get.docker.com | bash
  systemctl enable docker
  systemctl start docker
else
  echo "Docker 已安装，跳过。"
fi

echo "创建部署目录..."
mkdir -p /opt/ai-tools/open-webui
cd /opt/ai-tools/open-webui

echo "生成 docker-compose.yml..."
cat > docker-compose.yml <

chmod +x install-ai.sh

./install-ai.sh

vim /etc/docker/daemon.json

{
  "log-driver": "json-file",
  "log-opts": {
    "max-size": "100m",
    "max-file": "3"
  }
}

systemctl restart docker