企业内部 AI 搜索平台 Docker 部署实战指南

发布人：慈云数据-客服中心发布时间：22小时前阅读量：8

AI搜索 Docker部署教程｜适合企业用户

随着企业内部知识资产不断增长，传统关键词搜索已经难以满足“自然语言提问、语义理解、多源知识检索、智能问答”的使用需求。AI搜索系统通常结合了大语言模型、向量数据库、全文检索引擎、文档解析服务以及权限管理能力，能够帮助企业快速构建面向内部员工、客服、研发、销售、法务等场景的智能知识检索平台。

对于企业用户而言，Docker部署是一种非常适合落地AI搜索系统的方式。它具备环境一致、部署快速、便于迁移、易于扩展和运维成本较低等优势。本文将围绕企业级AI搜索系统的Docker部署流程，介绍整体架构、服务器准备、环境配置、Docker Compose部署、数据持久化、安全加固、运维监控以及常见问题处理，帮助企业用户搭建一套可用、可维护、可扩展的AI搜索服务。

一、AI搜索系统通常包含哪些组件？

在正式部署之前，企业用户需要先理解AI搜索系统的基本组成。不同产品或开源项目的实现方式略有差异，但核心模块通常包括以下几类。

1. Web前端

Web前端用于提供用户访问界面，例如搜索框、问答窗口、知识库管理页面、文档上传页面、权限配置页面等。企业员工通常通过浏览器访问该系统。

2. 后端API服务

后端API服务是AI搜索系统的核心业务层，负责处理用户请求、调用检索服务、对接大模型接口、管理用户权限、维护知识库配置、处理文档解析任务等。

3. 向量数据库

AI搜索的关键能力之一是语义检索。系统会将文档内容切分成多个文本片段，并通过Embedding模型转换为向量，然后存储到向量数据库中。常见向量数据库包括：

Milvus
Qdrant
Weaviate
Chroma
Elasticsearch向量检索能力
PostgreSQL + pgvector

4. 全文检索引擎

语义检索适合理解用户意图，但在企业场景中，关键词匹配依然非常重要。例如合同编号、订单号、产品型号、客户名称等精确信息，往往需要全文检索引擎辅助。常见方案包括：

Elasticsearch
OpenSearch
Meilisearch
PostgreSQL全文检索

5. 文档解析服务

企业知识库中常见文档格式包括PDF、Word、Excel、PPT、Markdown、HTML、TXT等。文档解析服务负责将这些文件转换为可检索的文本内容，并尽可能保留标题、段落、表格、页码等结构化信息。

6. 大语言模型服务

大语言模型用于理解问题、重写查询、总结检索结果、生成自然语言答案。企业可以选择：

调用公有云大模型API
接入私有化大模型服务
使用本地推理框架部署开源模型

7. 数据库与缓存

AI搜索系统通常还需要关系型数据库存储用户、角色、知识库、文档元信息、任务记录等内容，并使用缓存或消息队列提升系统性能。常见组件包括：

PostgreSQL / MySQL
Redis
RabbitMQ / Kafka

二、企业部署前的服务器准备

企业部署AI搜索系统时，建议根据业务规模选择服务器配置。以下是一个参考配置。

1. 测试环境配置

适合小团队验证、内部演示或功能测试。

项目	推荐配置
CPU	4核及以上
内存	8GB及以上
磁盘	100GB SSD
系统	Ubuntu 22.04 LTS / Debian 12 / CentOS Stream
Docker	24.x及以上
Docker Compose	v2.x

2. 生产环境配置

适合企业正式使用，支持多知识库、多用户并发访问。

项目	推荐配置
CPU	8核至32核
内存	32GB至128GB
磁盘	500GB至数TB SSD
网络	千兆内网或更高
系统	Ubuntu 22.04 LTS优先
Docker	24.x及以上
Docker Compose	v2.x

如果企业计划本地部署大模型，则需要额外考虑GPU资源。例如部署7B、14B或更大参数规模模型时，通常需要NVIDIA GPU及CUDA环境。若只是通过API调用外部模型，则普通CPU服务器即可完成AI搜索系统部署。

三、安装Docker与Docker Compose

以下命令以Ubuntu系统为例。

1. 更新系统软件包

sudo apt update
sudo apt upgrade -y

2. 安装基础依赖

sudo apt install -y ca-certificates curl gnupg lsb-release

3. 添加Docker官方GPG密钥

sudo install -m 0755 -d /etc/apt/keyrings

curl -fsSL https://download.docker.com/linux/ubuntu/gpg | \
sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg

sudo chmod a+r /etc/apt/keyrings/docker.gpg

4. 添加Docker软件源

echo \
"deb [arch=$(dpkg --print-architecture) \
signed-by=/etc/apt/keyrings/docker.gpg] \
https://download.docker.com/linux/ubuntu \
$(lsb_release -cs) stable" | \
sudo tee /etc/apt/sources.list.d/docker.list > /dev/null

5. 安装Docker

sudo apt update
sudo apt install -y docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin

6. 验证安装结果

docker --version
docker compose version

如果能够正常输出版本号，说明Docker和Docker Compose已经安装完成。

7. 将当前用户加入Docker用户组

sudo usermod -aG docker $USER

执行后建议重新登录服务器，使权限生效。

四、规划部署目录

企业环境中建议将AI搜索相关文件统一放在一个清晰的目录下，例如：

sudo mkdir -p /opt/ai-search
sudo chown -R $USER:$USER /opt/ai-search
cd /opt/ai-search

建议目录结构如下：

/opt/ai-search
├── docker-compose.yml
├── .env
├── data
│   ├── postgres
│   ├── redis
│   ├── qdrant
│   └── uploads
├── logs
│   ├── backend
│   └── worker
└── nginx
    └── default.conf

其中：

docker-compose.yml：服务编排文件；
.env：环境变量配置文件；
data：持久化数据目录；
logs：应用日志目录；
nginx：反向代理配置目录。

五、编写环境变量配置文件

在/opt/ai-search目录下创建.env文件：

vim .env

示例内容如下：

# 基础配置
APP_ENV=production
APP_HOST=0.0.0.0
APP_PORT=8080
PUBLIC_URL=https://search.example.com

# 数据库配置
POSTGRES_DB=aisearch
POSTGRES_USER=aisearch_user
POSTGRES_PASSWORD=PleaseChangeThisStrongPassword

# Redis配置
REDIS_PASSWORD=PleaseChangeThisRedisPassword

# 向量数据库配置
QDRANT_API_KEY=PleaseChangeThisQdrantApiKey

# 大模型配置
LLM_PROVIDER=openai_compatible
LLM_BASE_URL=https://api.example.com/v1
LLM_API_KEY=PleaseChangeThisLLMApiKey
LLM_MODEL=gpt-4o-mini

# Embedding模型配置
EMBEDDING_MODEL=text-embedding-3-large
EMBEDDING_DIM=3072

# 文件上传限制
MAX_UPLOAD_SIZE_MB=200

# 安全配置
JWT_SECRET=PleaseChangeThisJWTSecretAtLeast32Chars
ADMIN_EMAIL=admin@example.com
ADMIN_PASSWORD=PleaseChangeThisAdminPassword

企业部署时一定不要直接使用示例密码。建议密码长度不少于16位，并包含大小写字母、数字和特殊字符。

六、编写Docker Compose部署文件

下面提供一个通用型AI搜索系统的docker-compose.yml示例。实际使用时，需要根据具体AI搜索项目的镜像名称、端口和环境变量进行调整。

services:
  postgres:
    image: postgres:16
    container_name: ai-search-postgres
    restart: unless-stopped
    environment:
      POSTGRES_DB: ${POSTGRES_DB}
      POSTGRES_USER: ${POSTGRES_USER}
      POSTGRES_PASSWORD: ${POSTGRES_PASSWORD}
    volumes:
      - ./data/postgres:/var/lib/postgresql/data
    networks:
      - ai-search-net
    healthcheck:
      test: ["CMD-SHELL", "pg_isready -U ${POSTGRES_USER} -d ${POSTGRES_DB}"]
      interval: 10s
      timeout: 5s
      retries: 5

  redis:
    image: redis:7
    container_name: ai-search-redis
    restart: unless-stopped
    command: redis-server --appendonly yes --requirepass ${REDIS_PASSWORD}
    volumes:
      - ./data/redis:/data
    networks:
      - ai-search-net
    healthcheck:
      test: ["CMD", "redis-cli", "-a", "${REDIS_PASSWORD}", "ping"]
      interval: 10s
      timeout: 5s
      retries: 5

  qdrant:
    image: qdrant/qdrant:latest
    container_name: ai-search-qdrant
    restart: unless-stopped
    environment:
      QDRANT__SERVICE__API_KEY: ${QDRANT_API_KEY}
    volumes:
      - ./data/qdrant:/qdrant/storage
    networks:
      - ai-search-net

  backend:
    image: your-registry/ai-search-backend:latest
    container_name: ai-search-backend
    restart: unless-stopped
    depends_on:
      postgres:
        condition: service_healthy
      redis:
        condition: service_healthy
      qdrant:
        condition: service_started
    env_file:
      - .env
    environment:
      DATABASE_URL: postgresql://${POSTGRES_USER}:${POSTGRES_PASSWORD}@postgres:5432/${POSTGRES_DB}
      REDIS_URL: redis://:${REDIS_PASSWORD}@redis:6379/0
      VECTOR_DB_URL: http://qdrant:6333
      VECTOR_DB_API_KEY: ${QDRANT_API_KEY}
    volumes:
      - ./data/uploads:/app/uploads
      - ./logs/backend:/app/logs
    networks:
      - ai-search-net

  worker:
    image: your-registry/ai-search-worker:latest
    container_name: ai-search-worker
    restart: unless-stopped
    depends_on:
      - backend
      - redis
      - qdrant
    env_file:
      - .env
    environment:
      DATABASE_URL: postgresql://${POSTGRES_USER}:${POSTGRES_PASSWORD}@postgres:5432/${POSTGRES_DB}
      REDIS_URL: redis://:${REDIS_PASSWORD}@redis:6379/0
      VECTOR_DB_URL: http://qdrant:6333
      VECTOR_DB_API_KEY: ${QDRANT_API_KEY}
    volumes:
      - ./data/uploads:/app/uploads
      - ./logs/worker:/app/logs
    networks:
      - ai-search-net

  frontend:
    image: your-registry/ai-search-frontend:latest
    container_name: ai-search-frontend
    restart: unless-stopped
    depends_on:
      - backend
    environment:
      API_BASE_URL: http://backend:8080
    networks:
      - ai-search-net

  nginx:
    image: nginx:1.25
    container_name: ai-search-nginx
    restart: unless-stopped
    depends_on:
      - frontend
      - backend
    ports:
      - "80:80"
      - "443:443"
    volumes:
      - ./nginx/default.conf:/etc/nginx/conf.d/default.conf
      - ./nginx/certs:/etc/nginx/certs
      - ./logs/nginx:/var/log/nginx
    networks:
      - ai-search-net

networks:
  ai-search-net:
    driver: bridge

需要注意，示例中的：

image: your-registry/ai-search-backend:latest
image: your-registry/ai-search-worker:latest
image: your-registry/ai-search-frontend:latest

需要替换为实际项目提供的镜像地址。如果企业使用的是开源AI搜索系统，应参考对应项目文档填写正确镜像。

七、配置Nginx反向代理

在/opt/ai-search/nginx/default.conf中写入以下示例配置：

server {
    listen 80;
    server_name search.example.com;

    client_max_body_size 200m;

    location / {
        proxy_pass http://frontend:3000;
        proxy_http_version 1.1;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
    }

    location /api/ {
        proxy_pass http://backend:8080/api/;
        proxy_http_version 1.1;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
    }
}

生产环境建议启用HTTPS。可以使用企业已有证书，也可以使用Let's Encrypt签发免费证书。对于内网部署，也可以接入企业内部CA证书。

八、启动AI搜索服务

在部署目录执行：

cd /opt/ai-search
docker compose pull
docker compose up -d

查看容器状态：

docker compose ps

查看日志：

docker compose logs -f backend
docker compose logs -f worker
docker compose logs -f nginx

如果服务正常启动，可以在浏览器访问：

http://服务器IP

或绑定域名后访问：

https://search.example.com

首次登录通常使用.env中配置的管理员账号，例如：

ADMIN_EMAIL=admin@example.com
ADMIN_PASSWORD=PleaseChangeThisAdminPassword

登录后建议立即修改管理员密码，并创建普通用户、部门管理员或知识库管理员。

九、初始化知识库与导入文档

AI搜索系统部署完成后，下一步是创建知识库并导入企业文档。

1. 创建知识库

可以按照业务部门或文档类型创建知识库，例如：

公司制度知识库
产品文档知识库
客服FAQ知识库
销售资料知识库
研发技术文档知识库
合同与法务知识库

2. 上传文档

建议优先上传结构清晰、内容准确的文档。常见格式包括：

PDF
DOCX
XLSX
PPTX
Markdown
HTML
TXT

如果原始PDF是扫描件，需要确保系统支持OCR能力，否则可能无法提取文本。

3. 文档切分与向量化

AI搜索系统通常会对文档执行以下处理流程：

上传文档
→ 文档解析
→ 文本清洗
→ 内容切分
→ 生成Embedding向量
→ 写入向量数据库
→ 建立检索索引

企业用户需要关注切分策略。切分过短可能导致语义不完整，切分过长可能影响检索精度。常见配置为每个文本块500至1000个中文字符，并设置一定的重叠长度，例如50至150个字符。

十、企业级安全配置建议

AI搜索系统往往承载大量企业内部资料，因此安全配置非常重要。

1. 不要暴露数据库端口

PostgreSQL、Redis、Qdrant等内部服务不应直接暴露到公网。上面的Compose示例只暴露了Nginx的80和443端口，是比较合理的方式。

2. 强制使用HTTPS

生产环境应使用HTTPS，避免用户登录凭证、搜索内容、文档内容在网络中明文传输。

3. 开启访问控制

企业AI搜索系统应具备用户、角色和知识库权限控制能力。不同部门只能访问授权知识库，敏感资料应限制到指定人员。

4. 配置审计日志

建议记录以下行为：

用户登录与退出；
文档上传、删除、更新；
知识库权限变更；
管理员操作；
用户搜索问题；
大模型调用记录。

审计日志可以帮助企业满足合规要求，也便于问题追踪。

5. 定期轮换密钥

.env中的数据库密码、Redis密码、JWT密钥、大模型API Key等都应定期轮换。权限较高的API Key应避免硬编码在代码中。

6. 限制上传文件类型

为了防止恶意文件上传，建议限制文件类型和大小。例如只允许上传PDF、DOCX、XLSX、PPTX、TXT、MD等格式，并设置合理大小限制。

十一、数据备份与恢复

生产环境必须配置备份策略。AI搜索系统至少需要备份以下数据：

PostgreSQL数据库；
向量数据库数据；
上传的原始文档；
配置文件；
Nginx证书；
应用日志。

1. 备份PostgreSQL

docker exec ai-search-postgres pg_dump \
-U aisearch_user aisearch > backup_aisearch_$(date +%F).sql

2. 备份上传文件和向量数据

tar -czvf ai-search-data-$(date +%F).tar.gz /opt/ai-search/data

3. 恢复PostgreSQL

cat backup_aisearch_2026-01-01.sql | \
docker exec -i ai-search-postgres psql -U aisearch_user -d aisearch

建议企业将备份文件同步到独立存储，例如对象存储、NAS、备份服务器或异地灾备环境。

十二、升级与回滚

AI搜索系统升级前应先备份数据，并确认新版本兼容当前数据库结构和向量索引格式。

1. 标准升级流程

cd /opt/ai-search

docker compose pull

docker compose down

docker compose up -d

2. 查看升级后状态

docker compose ps
docker compose logs -f backend

3. 回滚建议

企业部署时不建议一直使用latest标签，因为它不利于版本回滚。更推荐使用明确版本号，例如：

image: your-registry/ai-search-backend:v1.3.2

升级后如果出现问题，可以将镜像版本改回旧版本，再执行：

docker compose up -d

十三、性能优化建议

1. 合理配置Embedding模型

Embedding模型直接影响语义检索效果。企业应根据中文支持、向量维度、调用成本、响应速度等因素选择模型。中文企业知识库建议优先选择中文表现较好的Embedding模型。

2. 使用混合检索

单纯向量检索可能无法很好处理编号、术语、缩写、专有名词等场景。建议启用“向量检索 + 关键词检索 + 重排序”的混合检索方式。

3. 增加重排序模型

Rerank模型可以对初步召回的文档片段重新排序，显著提升最终答案质量。对于企业知识问答场景，Rerank通常比单纯扩大召回数量更有效。

4. 控制上下文长度

大模型上下文不是越长越好。检索结果太多可能增加成本，也可能干扰答案生成。建议根据场景设置Top K，例如召回20条、重排序后取5至8条进入大模型上下文。

5. 使用异步任务处理文档

大文档解析和向量化可能耗时较长，建议通过Worker异步处理，避免阻塞用户界面。

十四、常见问题与排查方法

1. 容器启动失败