企业内网AI办公落地指南：从服务器到知识库，一套命令跑起来

发布人：慈云数据-客服中心发布时间：13小时前阅读量：2

AI办公私有化部署方案｜附完整命令

在企业数字化转型过程中，“AI办公”已经从概念逐渐变成刚需。无论是文档总结、会议纪要、知识库问答、合同审阅、邮件撰写，还是数据分析与代码辅助，AI都能显著提升办公效率。

但对于很多企业来说，直接使用公有云AI服务存在一些顾虑：

内部资料、合同、财务数据不适合上传到外部平台；
企业知识库需要长期沉淀，不能完全依赖第三方；
行业合规要求较高，例如金融、政务、医疗、制造等领域；
希望降低长期API调用成本；
需要对模型、知识库、权限、日志进行自主可控管理。

因此，越来越多企业开始选择 AI办公私有化部署方案。本文将从方案架构、服务器配置、部署组件、完整命令、知识库接入、安全建议等方面，给出一套可落地的企业级部署方案。

一、什么是AI办公私有化部署？

AI办公私有化部署，指的是将大语言模型、知识库系统、向量数据库、Web管理界面、文件解析服务等组件部署在企业自己的服务器、内网机房或私有云环境中。

用户可以通过浏览器访问企业内部AI助手，实现如下能力：

内部文档问答；
企业制度查询；
合同、标书、报告总结；
会议纪要生成；
邮件与公文撰写；
Excel数据分析辅助；
代码生成与脚本编写；
多部门知识库管理；
权限控制与审计日志；
内网离线运行，数据不出企业。

简单来说，私有化部署的核心目标是：

让企业拥有一个完全可控、可管理、可扩展的内部AI办公平台。

二、整体部署架构

本文采用一套相对通用、易部署、可扩展的方案：

模块	推荐组件	作用
大语言模型运行框架	Ollama	本地运行大模型
AI Web管理界面	Open WebUI	类似ChatGPT的网页交互界面
向量数据库	Chroma / Qdrant	存储知识库向量数据
文档解析	Open WebUI内置能力 / LibreOffice	解析PDF、Word、Excel等文件
反向代理	Nginx	域名访问、HTTPS、负载转发
容器管理	Docker / Docker Compose	快速部署和管理服务
操作系统	Ubuntu Server 22.04 LTS	稳定、兼容性好

整体架构如下：

企业员工浏览器
      │
      ▼
  Nginx反向代理
      │
      ▼
  Open WebUI
      │
      ├── Ollama本地大模型
      │
      ├── 知识库/RAG
      │
      └── 文档解析与上传

如果企业有更高要求，也可以扩展为：

用户端
  │
  ▼
统一入口 / SSO / Nginx
  │
  ▼
AI办公平台 Open WebUI / Dify / FastGPT
  │
  ├── 模型服务：Ollama / vLLM / Xinference
  ├── 向量库：Milvus / Qdrant / Elasticsearch
  ├── 文件服务：MinIO
  ├── 数据库：PostgreSQL / MySQL
  └── 日志审计：ELK / Loki

本文为了便于落地，主要以 Ollama + Open WebUI + Docker Compose + Nginx 为核心方案。

三、适用场景

该方案适合以下企业或团队：

中小企业内部AI助手
- 用于行政、人事、财务、销售、研发等部门日常办公。
知识库问答系统
- 上传企业制度、产品文档、技术文档、操作手册，实现自然语言查询。
内网办公环境
- 数据不能连接外网，要求模型和系统都在内网运行。
研发团队效率工具
- 用于代码解释、脚本生成、技术文档总结等。
政企、金融、医疗等敏感行业
- 对数据隐私和合规性要求较高，需要本地化部署。

四、服务器配置建议

不同模型对硬件要求差异较大。下面给出几个常见配置参考。

1. 入门测试环境

适合小团队测试和验证：

CPU：8核
内存：32GB
硬盘：500GB SSD
GPU：可选
系统：Ubuntu Server 22.04

可运行模型：

Qwen2.5 7B
DeepSeek-R1-Distill-Qwen-7B
Llama 3.1 8B
Gemma 2 9B

如果没有GPU，也可以用CPU运行小模型，但推理速度较慢。

2. 企业办公推荐配置

适合20～100人团队使用：

CPU：16核或以上
内存：64GB或以上
硬盘：1TB NVMe SSD
GPU：NVIDIA RTX 4090 24GB / L20 / A10 / A100
系统：Ubuntu Server 22.04

推荐模型：

Qwen2.5 14B
DeepSeek-R1-Distill-Qwen-14B
Llama 3.1 8B / 70B量化版
Yi 1.5 34B量化版

3. 企业级高并发配置

适合大企业或多部门使用：

CPU：32核或以上
内存：128GB或以上
硬盘：2TB～8TB NVMe SSD
GPU：多卡，例如2～8张A100、H100、L40S、L20
网络：万兆内网

建议使用：

vLLM作为模型推理服务；
Milvus或Qdrant作为向量库；
PostgreSQL作为业务数据库；
MinIO作为文件存储；
Nginx或Kubernetes Ingress做流量入口。

五、基础环境准备

下面以 Ubuntu Server 22.04 LTS 为例。

1. 更新系统

sudo apt update
sudo apt upgrade -y

安装常用工具：

sudo apt install -y curl wget git vim net-tools htop unzip ca-certificates gnupg lsb-release

2. 设置服务器时区

sudo timedatectl set-timezone Asia/Shanghai
timedatectl

3. 安装Docker

卸载旧版本：

sudo apt remove -y docker docker-engine docker.io containerd runc

安装依赖：

sudo apt install -y ca-certificates curl gnupg

添加Docker官方GPG密钥：

sudo install -m 0755 -d /etc/apt/keyrings
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | \
sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg
sudo chmod a+r /etc/apt/keyrings/docker.gpg

添加Docker源：

echo \
"deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.gpg] \
https://download.docker.com/linux/ubuntu \
$(lsb_release -cs) stable" | \
sudo tee /etc/apt/sources.list.d/docker.list > /dev/null

安装Docker：

sudo apt update
sudo apt install -y docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin

启动Docker并设置开机自启：

sudo systemctl enable docker
sudo systemctl start docker

验证Docker版本：

docker --version
docker compose version

如果希望当前用户不使用 sudo 执行Docker命令，可以执行：

sudo usermod -aG docker $USER
newgrp docker

六、安装NVIDIA驱动与GPU容器支持

如果服务器使用NVIDIA显卡，需要安装显卡驱动和NVIDIA Container Toolkit。

1. 查看显卡

lspci | grep -i nvidia

2. 安装NVIDIA驱动

Ubuntu可以使用如下命令自动安装推荐驱动：

sudo apt install -y ubuntu-drivers-common
sudo ubuntu-drivers autoinstall
sudo reboot

重启后查看GPU状态：

nvidia-smi

如果能看到显卡型号、显存、驱动版本，说明驱动安装成功。

3. 安装NVIDIA Container Toolkit

添加源：

curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | \
sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg

curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

安装：

sudo apt update
sudo apt install -y nvidia-container-toolkit

配置Docker使用NVIDIA运行时：

sudo nvidia-ctk runtime configure --runtime=docker
sudo systemctl restart docker

测试GPU容器：

docker run --rm --gpus all nvidia/cuda:12.3.0-base-ubuntu22.04 nvidia-smi

如果容器内也能看到 nvidia-smi 输出，说明配置成功。

七、部署Ollama本地大模型服务

Ollama是非常适合私有化部署的本地大模型运行工具，安装简单，支持多种开源模型。

1. 使用Docker部署Ollama

创建目录：

sudo mkdir -p /data/ai-office/ollama
cd /data/ai-office

如果有GPU，执行：

docker run -d \
  --name ollama \
  --restart always \
  --gpus all \
  -p 11434:11434 \
  -v /data/ai-office/ollama:/root/.ollama \
  ollama/ollama:latest

如果没有GPU，执行：

docker run -d \
  --name ollama \
  --restart always \
  -p 11434:11434 \
  -v /data/ai-office/ollama:/root/.ollama \
  ollama/ollama:latest

查看容器状态：

docker ps

2. 下载并运行模型

进入Ollama容器：

docker exec -it ollama bash

下载Qwen2.5 7B模型：

ollama pull qwen2.5:7b

下载DeepSeek蒸馏模型：

ollama pull deepseek-r1:7b

下载Llama模型：

ollama pull llama3.1:8b

查看已安装模型：

ollama list

测试对话：

ollama run qwen2.5:7b

退出对话可以输入：

/bye

也可以在宿主机测试Ollama接口：

curl http://127.0.0.1:11434/api/generate -d '{
  "model": "qwen2.5:7b",
  "prompt": "请用中文总结AI办公私有化部署的优势",
  "stream": false
}'

八、部署Open WebUI办公界面

Open WebUI是一个非常成熟的AI Web前端系统，支持用户管理、模型管理、知识库、文件上传、多模型接入等功能，界面类似ChatGPT，非常适合企业内部使用。

1. Docker方式部署Open WebUI

创建数据目录：

sudo mkdir -p /data/ai-office/open-webui

启动Open WebUI：

docker run -d \
  --name open-webui \
  --restart always \
  -p 3000:8080 \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  -v /data/ai-office/open-webui:/app/backend/data \
  --add-host=host.docker.internal:host-gateway \
  ghcr.io/open-webui/open-webui:main

查看容器：

docker ps

查看日志：

docker logs -f open-webui

浏览器访问：

http://服务器IP:3000

首次注册的用户通常会成为管理员账号，建议使用企业管理员邮箱注册，并及时设置强密码。

九、使用Docker Compose统一管理

单独使用 docker run 适合快速测试，但企业长期运行建议使用 docker compose 管理。

创建部署目录：

sudo mkdir -p /data/ai-office
cd /data/ai-office

创建 docker-compose.yml：

cat > docker-compose.yml << 'EOF'
services:
  ollama:
    image: ollama/ollama:latest
    container_name: ollama
    restart: always
    ports:
      - "11434:11434"
    volumes:
      - ./ollama:/root/.ollama
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: open-webui
    restart: always
    ports:
      - "3000:8080"
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
      - WEBUI_AUTH=true
    volumes:
      - ./open-webui:/app/backend/data
    depends_on:
      - ollama

networks:
  default:
    name: ai-office-network
EOF

启动服务：

docker compose up -d

查看服务：

docker compose ps

查看日志：

docker compose logs -f

停止服务：

docker compose down

重启服务：

docker compose restart

更新服务镜像：

docker compose pull
docker compose up -d

注意：如果没有NVIDIA GPU，需要删除 deploy.resources.reservations.devices 这一段，否则可能启动失败。

十、配置Nginx反向代理

为了让用户通过域名访问AI办公平台，建议部署Nginx反向代理。

1. 安装Nginx

sudo apt install -y nginx
sudo systemctl enable nginx
sudo systemctl start nginx

2. 创建站点配置

假设域名为：

ai.example.com

创建配置文件：

sudo vim /etc/nginx/sites-available/ai-office.conf

写入以下内容：

server {
    listen 80;
    server_name ai.example.com;

    client_max_body_size 200M;

    location / {
        proxy_pass http://127.0.0.1:3000;
        proxy_http_version 1.1;

        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;

        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection "upgrade";

        proxy_read_timeout 3600;
        proxy_send_timeout 3600;
    }
}

启用站点：

sudo ln -s /etc/nginx/sites-available/ai-office.conf /etc/nginx/sites-enabled/ai-office.conf

检查配置：

sudo nginx -t

重载Nginx：

sudo systemctl reload nginx

访问：

http://ai.example.com

十一、配置HTTPS证书

如果服务器可以访问公网，并且域名已解析到服务器，可以使用Let's Encrypt免费证书。

安装Certbot：

sudo apt install -y certbot python3-certbot-nginx

申请证书：

sudo certbot --nginx -d ai.example.com

查看自动续期：

sudo systemctl status certbot.timer

测试续期：

sudo certbot renew --dry-run

如果是纯内网环境，可以使用企业内部CA签发证书，或者通过Nginx配置自签名证书。

生成自签名证书示例：

sudo mkdir -p /etc/nginx/ssl
sudo openssl req -x509 -nodes -days 3650 -newkey rsa:2048 \
  -keyout /etc/nginx/ssl/ai-office.key \
  -out /etc/nginx/ssl/ai-office.crt \
  -subj "/C=CN/ST=Shanghai/L=Shanghai/O=Company/OU=IT/CN=ai.local"

Nginx HTTPS配置示例：

server {
    listen 443 ssl;
    server_name ai.local;

    ssl_certificate /etc/nginx/ssl/ai-office.crt;
    ssl_certificate_key /etc/nginx/ssl/ai-office.key;

    client_max_body_size 200M;

    location / {
        proxy_pass http://127.0.0.1:3000;
        proxy_http_version 1.1;

        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto https;

        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection "upgrade";

        proxy_read_timeout 3600;
        proxy_send_timeout 3600;
    }
}

十二、知识库部署与文档上传

AI办公最重要的能力不是简单聊天，而是让模型理解企业内部资料。Open WebUI支持知识库功能，可以上传文档并进行检索增强生成，也就是常说的RAG。

1. 支持的文档类型

通常支持以下类型：

PDF；
Word；
Excel；
PowerPoint；
Markdown；
TXT；
CSV；
HTML；
代码文件。

2. 知识库建设建议

企业知识库不要一次性把所有资料全部上传，而应该按照业务场景分类：

企业制度知识库
财务报销知识库
人事行政知识库
销售话术知识库
产品手册知识库
技术文档知识库
合同模板知识库
客服FAQ知识库

这样做有几个好处：

检索更准确；
权限更容易控制；
避免无关资料干扰回答；
后续维护更方便。

3. 文档处理建议

上传知识库前，建议对文档进行整理：

删除过期制度；
合并重复文档；
明确文档标题；
使用结构化标题，例如一级标题、二级标题；
PDF尽量使用可复制文本版本；
扫描件PDF需要先OCR；
表格类文件应保持字段清晰；
不建议上传大量图片型PDF。

十三、办公场景Prompt示例

部署完成后，可以为员工提供一些标准提示词模板，降低使用门槛。

1. 文档总结

请阅读我上传的文档，并按照以下结构总结：
1. 文档核心主题
2. 关键内容摘要
3. 重要数据或结论
4. 可能存在的风险点
5. 建议后续行动
要求：语言简洁，适合汇报给管理层。

2. 会议纪要

请将以下会议记录整理成正式会议纪要，格式包括：
1. 会议主题
2. 会议时间
3. 参会人员
4. 讨论事项
5. 已确定结论
6. 待办事项、负责人、截止时间
要求：表达正式、清晰、可执行。

3. 合同风险审查

请从企业法务角度审查以下合同内容，重点关注：
1. 付款条款
2. 违约责任
3. 交付标准
4. 验收条件
5. 保密条款
6. 争议解决方式
请列出潜在风险，并给出修改建议。

4. 企业制度问答

请基于企业制度知识库回答我的问题。
要求：
1. 只依据知识库内容回答；
2. 如果知识库中没有明确依据，请说明“当前知识库未找到明确规定”；
3. 如有相关条款，请引用制度名称和条款内容。

5. Excel数据分析

请分析我上传的Excel数据，并输出：
1. 数据整体概况
2. 关键指标变化
3. 异常数据说明
4. 可能原因分析
5. 管理建议
请使用表格展示核心结果。

十四、权限与安全配置建议

私有化部署并不意味着天然安全。企业在上线前，应重点关注以下安全措施。

1. 启用登录认证

Open WebUI应开启用户认证，不建议匿名访问。

在Docker Compose中设置：

environment:
  - WEBUI_AUTH=true

2. 限制注册

上线后建议关闭开放注册，只由管理员创建账号或邀请用户。

3. 设置强密码策略

建议要求：

密码长度不少于12位；
包含大小写字母、数字、特殊字符；
定期更换密码；
管理员账号单独保护。

4. 内网访问控制

如果只供企业内网使用，可以通过防火墙限制访问来源。

UFW防火墙示例：

sudo apt install -y ufw
sudo ufw allow 22/tcp
sudo ufw allow from 192.168.0.0/16 to any port 80
sudo ufw allow from 192.168.0.0/16 to any port 443
sudo ufw enable
sudo ufw status

如果只允许指定网段访问3000端口：

sudo ufw allow from 192.168.1.0/24 to any port 3000

5. 不暴露Ollama接口

Ollama的 11434 端口不建议直接暴露到公网。如果必须开放，应通过Nginx、VPN或防火墙进行限制。

关闭外部访问可以只让Docker内部通信，不映射宿主机端口，或者用防火墙限制：

sudo ufw deny 11434/tcp

十五、数据备份方案

AI办公平台上线后，数据包括：

用户账号；
聊天记录；
知识库文件；
向量数据；
模型文件；
系统配置。

建议定期备份 /data/ai-office 目录。

1. 手动备份

sudo tar -zcvf /backup/ai-office-$(date +%F).tar.gz /data/ai-office

2. 创建备份目录

sudo mkdir -p /backup

3. 定时备份脚本

创建脚本：

sudo vim /usr/local/bin/backup-ai-office.sh

写入：

#!/bin/bash

BACKUP_DIR="/backup"
DATA_DIR="/data/ai-office"
DATE=$(date +%F-%H%M%S)

mkdir -p ${BACKUP_DIR}

tar -zcvf ${BACKUP_DIR}/ai-office-${DATE}.tar.gz ${DATA_DIR}

find ${BACKUP_DIR} -name "ai-office-*.tar.gz" -mtime +14 -delete

赋予执行权限：

sudo chmod +x /usr/local/bin/backup-ai-office.sh

添加定时任务：

sudo crontab -e

加入：

0 2 * * * /usr/local/bin/backup-ai-office.sh

表示每天凌晨2点自动备份，并保留14天。

十六、常见问题与解决方法

1. Open WebUI无法连接Ollama

检查Ollama容器是否运行：

docker ps | grep ollama

检查Ollama接口：

curl http://127.0.0.1:11434/api/tags

如果使用Docker Compose，确认环境变量：

OLLAMA_BASE_URL=http://ollama:11434

重启服务：

docker compose restart

2. 模型回答速度很慢

可能原因：

没有GPU，使用CPU推理；
模型参数过大；
显存不足频繁换页；
并发用户过多；
上下文长度设置过高。

解决建议：

选择7B或14B模型；
使用量化模型；
增加GPU；
限制单用户并发；
优化知识库检索范围。

3. 上传PDF后问答效果差

可能原因：

PDF是扫描件；
文档结构混乱；
文档过长且没有标题；
OCR识别错误；
知识库分类不合理。

解决建议：

对扫描件先OCR；
将大文档拆分为多个主题文档；
使用Markdown或结构化Word；
删除无效页、目录页、广告页；
按部门或业务分类知识库。

4. 容器启动失败

查看日志：

docker logs open-webui
docker logs ollama

查看Docker Compose日志：

docker compose logs -f

检查端口占用：

sudo netstat -tulnp | grep 3000
sudo netstat -tulnp | grep 11434

如果端口被占用，可以修改 docker-compose.yml 中的端口映射。

十七、升级与维护

1. 更新Open WebUI和Ollama

进入目录：

cd /data/ai-office

拉取最新镜像：

docker compose pull

重启：

docker compose up -d

清理无用镜像：

docker image prune -f

2. 查看资源占用

查看容器资源：

docker stats

查看GPU占用：

watch -n 1 nvidia-smi

查看磁盘使用：

df -h
du -sh /data/ai-office/*

十八、方案扩展建议

如果企业后续希望建设更完整的AI办公平台，可以继续扩展以下能力。

1. 接入Dify或FastGPT

如果需要更复杂的工作流，例如：

表单填写；
多步骤审批；
API调用；
数据库查询；
客服机器人；
企业微信机器人；

可以部署Dify或FastGPT，与Ollama/vLLM模型服务对接。

2. 使用vLLM提升并发

当用户量较大时，Ollama部署简单但并发能力有限。可以考虑使用vLLM部署模型，提高吞吐量。

示例命令：

docker run -d \
  --name vllm-qwen \
  --restart always \
  --gpus all \
  -p 8000:8000 \
  -v /data/models:/models \
  vllm/vllm-openai:latest \
  --model Qwen/Qwen2.5-14B-Instruct \
  --host 0.0.0.0 \
  --port 8000

Open WebUI可以通过OpenAI兼容接口接入vLLM。

3. 使用Milvus建设大型知识库

当知识库文档达到数十万、上百万级别时，可以考虑Milvus、Qdrant等专业向量数据库，提升检索性能和可维护性。

4. 接入企业统一认证

大企业建议接入：

LDAP；
AD域；
OAuth2；
SSO；
企业微信；
钉钉；
飞书。

这样可以统一员工身份、部门权限和离职账号管理。

十九、推荐上线流程

为了降低风险，建议按照以下步骤上线：

测试环境验证
- 部署基础环境；
- 测试模型效果；
- 测试知识库问答；
- 测试文件上传。
小范围试点
- 选择行政、人事、研发等部门；
- 收集常见问题；
- 优化Prompt模板；
- 整理知识库。
安全评估
- 检查端口暴露；
- 配置HTTPS；
- 设置账号权限；
- 制定数据使用规范。
正式上线
- 域名访问；
- 培训员工；
- 建立管理员机制；
- 定期备份。
持续优化
- 更新模型；
- 优化知识库；
- 增加工作流；
- 接入更多业务系统。

二十、总结

AI办公私有化部署的核心价值，不只是“在内网部署一个聊天机器人”，而是为企业构建一个安全、可控、持续进化的智能办公底座。

通过本文方案，企业可以基于：

Docker；
Ollama；
Open WebUI；
Nginx；
本地大模型；
企业知识库；

快速搭建一套可用的AI办公平台。

这套方案的优势在于：

部署简单
- Docker Compose即可完成核心服务部署。
数据可控
- 文档、聊天记录、模型均保存在企业服务器中。
成本可控
- 避免长期大量调用外部API。
扩展灵活
- 后续可接入Dify、FastGPT、vLLM、Milvus等组件。
适合企业落地
- 支持知识库、用户管理、文档问答、办公写作等常见场景。

如果只是小团队试点，可以先从 Ollama + Open WebUI 开始；如果是中大型企业，则建议在此基础上进一步规划统一认证、权限体系、审计日志、向量数据库和高并发模型服务。

最后附上最简部署命令，方便快速启动：

sudo mkdir -p /data/ai-office
cd /data/ai-office

cat > docker-compose.yml << 'EOF'
services:
  ollama:
    image: ollama/ollama:latest
    container_name: ollama
    restart: always
    ports:
      - "11434:11434"
    volumes:
      - ./ollama:/root/.ollama

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: open-webui
    restart: always
    ports:
      - "3000:8080"
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
      - WEBUI_AUTH=true
    volumes:
      - ./open-webui:/app/backend/data
    depends_on:
      - ollama
EOF

docker compose up -d

docker exec -it ollama ollama pull qwen2.5:7b

部署完成后，浏览器访问：

http://服务器IP:3000

注册管理员账号，即可开始使用企业内部AI办公平台。

文章标签： AI办公私有化部署 Ollama OpenWebUI 企业知识库

上一篇：站长自建AI办公系统：从私有化部署到网站运营提效指南

下一篇：企业内网搭建AI办公平台实战：从本地大模型到知识库应用完整部署指南

更多栏目

新闻动态

文档中心

下载中心

目录结构

全文

产品与服务

新闻帮助

生态合作

了解我们

企业内网AI办公落地指南：从服务器到知识库，一套命令跑起来

AI办公 私有化部署方案｜附完整命令

一、什么是AI办公私有化部署？

二、整体部署架构

三、适用场景

四、服务器配置建议

1. 入门测试环境

2. 企业办公推荐配置

3. 企业级高并发配置

五、基础环境准备

1. 更新系统

2. 设置服务器时区

3. 安装Docker

六、安装NVIDIA驱动与GPU容器支持

1. 查看显卡

2. 安装NVIDIA驱动

3. 安装NVIDIA Container Toolkit

七、部署Ollama本地大模型服务

1. 使用Docker部署Ollama

2. 下载并运行模型

八、部署Open WebUI办公界面

1. Docker方式部署Open WebUI

九、使用Docker Compose统一管理

十、配置Nginx反向代理

1. 安装Nginx

2. 创建站点配置

十一、配置HTTPS证书

十二、知识库部署与文档上传

1. 支持的文档类型

2. 知识库建设建议

3. 文档处理建议

十三、办公场景Prompt示例

1. 文档总结

2. 会议纪要

3. 合同风险审查

4. 企业制度问答

5. Excel数据分析

十四、权限与安全配置建议

1. 启用登录认证

2. 限制注册

3. 设置强密码策略

4. 内网访问控制

5. 不暴露Ollama接口

十五、数据备份方案

1. 手动备份

2. 创建备份目录

3. 定时备份脚本

十六、常见问题与解决方法

1. Open WebUI无法连接Ollama

2. 模型回答速度很慢

3. 上传PDF后问答效果差

4. 容器启动失败

十七、升级与维护

1. 更新Open WebUI和Ollama

2. 查看资源占用

十八、方案扩展建议

1. 接入Dify或FastGPT

2. 使用vLLM提升并发

3. 使用Milvus建设大型知识库

4. 接入企业统一认证

十九、推荐上线流程

二十、总结

AI办公私有化部署方案｜附完整命令