Deepseek+RAGFlow本地部署：从零搭建私有AI知识库完整指南

RAG技术Deepseek模型本地部署

于 2026-07-07 15:32:44 修改

·本内容遵循CC 4.0 BY-SA版权协议

如果你正在寻找一种既能保护数据隐私，又能让AI真正理解你专业领域知识的解决方案，那么Deepseek+RAGFlow的本地部署组合可能正是你需要的答案。这个组合最近在开发者社区热度很高，但很多教程要么过于简单缺乏细节，要么假设读者已有丰富经验。本文将用最直白的方式，带你从零开始完成整个部署过程。

传统云端AI服务存在明显局限：敏感数据不敢上传、专业领域知识理解不足、API调用成本随使用量攀升。而Deepseek作为性能优秀的开源大模型，配合RAGFlow的文档解析和检索增强能力，可以在本地环境搭建一个真正"懂你"的AI知识库。无论是技术文档、行业报告还是内部资料，都能被有效利用。

本文将用20分钟左右的时间，手把手带你完成以下关键步骤：环境准备检查、Docker部署RAGFlow、Deepseek模型配置、知识库创建与测试。每个环节都会提供详细的命令和配置示例，并针对Windows和Linux环境的差异给出具体说明。即使你是第一次接触Docker和AI模型部署，也能跟着操作成功。

1. 环境准备与前置检查

在开始部署之前，需要确保你的本地环境满足基本要求。这个环节经常被忽略，但却是决定后续步骤能否顺利的关键。

1.1 硬件与软件要求

最低配置要求：

操作系统：Windows 10/11, Linux Ubuntu 18.04+, macOS 10.15+
内存：至少8GB RAM（推荐16GB以上）
存储：至少20GB可用空间（用于存储模型和文档）
Docker：版本20.10+
Docker Compose：版本1.29+

推荐配置（为了更好的体验）：

内存：32GB RAM
存储：100GB SSD
GPU：NVIDIA GPU with 8GB+ VRAM（可选，可加速推理）

1.2 环境检查命令

首先检查你的Docker环境是否就绪：

BASH

# 检查Docker版本

docker --version

# 检查Docker Compose版本

docker-compose --version

# 检查Docker服务状态

docker info

# 检查可用磁盘空间

df -h # Linux/macOS

# 或 Windows PowerShell中使用：Get-PSDrive C

如果Docker未安装，需要先完成安装。以Ubuntu为例的安装命令：

BASH

# 更新软件包索引

sudo apt update

# 安装Docker依赖

sudo apt install apt-transport-https ca-certificates curl software-properties-common

# 添加Docker官方GPG密钥

curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -

# 添加Docker仓库

sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"

# 安装Docker

sudo apt update

sudo apt install docker-ce

# 启动Docker服务

sudo systemctl start docker

sudo systemctl enable docker

# 将当前用户添加到docker组（避免每次使用sudo）

sudo usermod -aG docker $USER

1.3 端口占用检查

RAGFlow默认使用80端口，需要确保该端口未被占用：

BASH

# 检查80端口占用情况

netstat -tulpn | grep :80 # Linux

# 或使用：lsof -i :80

# Windows下检查端口占用

netstat -ano | findstr :80

如果80端口被占用，可以在后续部署时修改为其他端口（如8080）。

2. RAGFlow核心概念解析

在开始部署前，理解RAGFlow的基本工作原理很重要，这能帮助你在遇到问题时更好地排查。

2.1 RAG技术原理

RAG（检索增强生成）的核心思想是将信息检索与文本生成相结合。与传统大模型直接生成答案不同，RAG会先从一个知识库中检索相关信息，然后基于这些信息生成更准确的回答。

工作流程对比：

传统LLM：用户问题 → 模型生成答案
RAG流程：用户问题 → 检索相关文档 → 结合文档信息生成答案

2.2 RAGFlow的组件架构

RAGFlow包含以下核心组件：

文档解析器：支持PDF、Word、Excel、PPT等多种格式
向量化引擎：将文本转换为向量表示
检索器：基于向量相似度检索相关信息
API服务器：提供RESTful接口供客户端调用

2.3 Deepseek模型角色

Deepseek在这个架构中担任生成器的角色，负责基于检索到的信息生成自然语言回答。本地部署的Deepseek模型可以避免数据外泄，同时支持定制化优化。

3. RAGFlow部署详细步骤

现在开始正式的部署过程，我们将使用Docker Compose方式部署，这是最简单可靠的方法。

3.1 创建项目目录结构

首先创建清晰的项目目录结构，便于后续管理：

BASH

# 创建项目根目录

mkdir -p ~/ragflow-deepseek

cd ~/ragflow-deepseek

# 创建必要的子目录

mkdir -p data/documents # 存储上传的文档

mkdir -p data/models # 存储模型文件

mkdir -p config # 配置文件

mkdir -p logs # 日志文件

3.2 编写Docker Compose配置文件

创建docker-compose.yml文件：

YAML

# docker-compose.yml

version: '3.8'

services:

ragflow:

image: infiniflow/ragflow:latest

container_name: ragflow

ports:

- "80:80"

environment:

- RAGFLOW_SERVER_PORT=80

- RAGFLOW_DB_TYPE=sqlite

- RAGFLOW_DB_PATH=/app/data/ragflow.db

- RAGFLOW_VECTOR_STORE_TYPE=chroma

- RAGFLOW_VECTOR_STORE_PATH=/app/data/vector_store

volumes:

- ./data/documents:/app/data/documents

- ./data/models:/app/data/models

- ./logs:/app/logs

restart: unless-stopped

healthcheck:

test: ["CMD", "curl", "-f", "http://localhost:80/health"]

interval: 30s

timeout: 10s

retries: 3

deepseek-api:

image: deepseek-api:custom

build:

context: ./deepseek

dockerfile: Dockerfile

ports:

- "5000:5000"

volumes:

- ./data/models:/app/models

environment:

- MODEL_PATH=/app/models/deepseek-model

- API_PORT=5000

restart: unless-stopped

depends_on:

- ragflow

3.3 Deepseek API服务配置

创建Deepseek API服务的Dockerfile：

DOCKERFILE

# deepseek/Dockerfile

FROM python:3.9-slim

WORKDIR /app

# 安装系统依赖

RUN apt-get update && apt-get install -y \

gcc \

g++ \

&& rm -rf /var/lib/apt/lists/*

# 安装Python依赖

COPY requirements.txt .

RUN pip install -r requirements.txt --no-cache-dir

# 复制模型文件和代码

COPY . .

# 暴露端口

EXPOSE 5000

# 启动API服务

CMD ["python", "api_server.py"]

创建依赖文件deepseek/requirements.txt：

TXT

torch>=2.0.0

transformers>=4.30.0

fastapi>=0.95.0

uvicorn>=0.21.0

pydantic>=1.10.0

accelerate>=0.20.0

sentencepiece>=0.1.99

protobuf>=3.20.0

创建API服务器代码deepseek/api_server.py：

PYTHON

from fastapi import FastAPI, HTTPException

from pydantic import BaseModel

import torch

from transformers import AutoTokenizer, AutoModelForCausalLM

import uvicorn

import os

app = FastAPI(title="DeepSeek API", version="1.0.0")

class ChatRequest(BaseModel):

message: str

max_tokens: int = 512

temperature: float = 0.7

class ChatResponse(BaseModel):

response: str

status: str

# 全局变量存储模型和tokenizer

model = None

tokenizer = None

def load_model():

"""加载Deepseek模型"""

global model, tokenizer

try:

model_path = os.getenv('MODEL_PATH', '/app/models/deepseek-model')

print(f"正在加载模型从: {model_path}")

tokenizer = AutoTokenizer.from_pretrained(model_path)

model = AutoModelForCausalLM.from_pretrained(

model_path,

torch_dtype=torch.float16,

device_map="auto",

trust_remote_code=True

)

print("模型加载完成")

except Exception as e:

print(f"模型加载失败: {str(e)}")

raise e

@app.on_event("startup")

async def startup_event():

"""应用启动时加载模型"""

load_model()

@app.post("/chat", response_model=ChatResponse)

async def chat_completion(request: ChatRequest):

"""处理聊天请求"""

if model is None or tokenizer is None:

raise HTTPException(status_code=503, detail="模型未就绪")

try:

# 编码输入文本

inputs = tokenizer.encode(request.message, return_tensors="pt")

# 生成回复

with torch.no_grad():

outputs = model.generate(

inputs,

max_length=len(inputs[0]) + request.max_tokens,

temperature=request.temperature,

do_sample=True,

pad_token_id=tokenizer.eos_token_id

)

# 解码生成文本

response_text = tokenizer.decode(outputs[0], skip_special_tokens=True)

# 移除输入文本，只返回生成部分

generated_text = response_text[len(tokenizer.decode(inputs[0], skip_special_tokens=True)):]

return ChatResponse(response=generated_text.strip(), status="success")

except Exception as e:

raise HTTPException(status_code=500, detail=f"生成失败: {str(e)}")

@app.get("/health")

async def health_check():

"""健康检查端点"""

return {"status": "healthy", "model_loaded": model is not None}

if __name__ == "__main__":

port = int(os.getenv('API_PORT', 5000))

uvicorn.run(app, host="0.0.0.0", port=port)

3.4 启动服务

现在可以启动所有服务：

BASH

# 进入项目目录

cd ~/ragflow-deepseek

# 给脚本添加执行权限（如果有自定义脚本）

chmod +x scripts/*.sh

# 启动服务

docker-compose up -d

# 查看服务状态

docker-compose ps

# 查看日志

docker-compose logs -f ragflow

4. 模型下载与配置

4.1 Deepseek模型下载

如果还没有Deepseek模型文件，需要先下载。创建下载脚本：

BASH

# scripts/download_model.sh

# !/bin/bash

MODEL_DIR="./data/models/deepseek-model"

MODEL_NAME="deepseek-ai/deepseek-coder-1.3b" # 可以选择其他版本

echo "开始下载Deepseek模型..."

# 创建模型目录

mkdir -p $MODEL_DIR

# 使用git lfs下载（如果模型在Hugging Face上）

if command -v git-lfs &> /dev/null; then

git lfs install

git clone https://huggingface.co/$MODEL_NAME $MODEL_DIR

else

echo "请先安装git-lfs：https://git-lfs.com"

# 或者使用直接下载方式

echo "尝试使用wget下载..."

wget -P $MODEL_DIR https://huggingface.co/$MODEL_NAME/resolve/main/pytorch_model.bin

echo "模型下载完成"

运行下载脚本：

BASH

chmod +x scripts/download_model.sh

./scripts/download_model.sh

4.2 模型配置验证

验证模型是否正确加载：

BASH

# 检查模型文件

ls -la ./data/models/deepseek-model/

# 测试API接口

curl http://localhost:5000/health

# 简单测试对话

curl -X POST http://localhost:5000/chat \

-H "Content-Type: application/json" \

-d '{"message": "你好，请介绍一下你自己", "max_tokens": 100}'

5. RAGFlow知识库配置

5.1 访问RAGFlow管理界面

在浏览器中打开 http://localhost（如果修改了端口，使用对应的端口号）。

首次访问需要创建管理员账户：

用户名：admin
密码：设置一个强密码

5.2 创建知识库

在管理界面中创建第一个知识库：

点击"知识库管理"
点击"新建知识库"
填写知识库信息：
- 知识库名称：我的技术文档
- 描述：个人技术学习和文档库
- 向量模型：选择默认的Embedding模型
- chunk大小：512（根据文档类型调整）

5.3 上传文档测试

准备一个测试文档（如PDF或Word文档），然后：

点击"文档管理"
点击"上传文档"
选择文件并上传
等待文档解析完成（查看处理状态）

创建处理流水线配置文件config/pipeline_config.json：

JSON

{

"chunk_size": 512,

"chunk_overlap": 50,

"enable_ocr": true,

"languages": ["zh", "en"],

"vector_dimension": 768,

"similarity_threshold": 0.7

}

6. 集成测试与API调用

6.1 配置RAGFlow使用Deepseek

在RAGFlow中配置Deepseek作为LLM后端：

创建API配置config/llm_config.yaml：

YAML

llm_providers:

deepseek_local:

type: custom

base_url: "http://deepseek-api:5000"

api_key: "local"

models:

- name: "deepseek-coder"

max_tokens: 2048

temperature: 0.1

6.2 测试问答功能

通过RAGFlow API测试完整流程：

BASH

# 测试问答接口

curl -X POST http://localhost/api/v1/chat \

-H "Content-Type: application/json" \

-H "Authorization: Bearer YOUR_API_KEY" \

-d '{

"message": "RAG技术的主要优势是什么？",

"knowledge_base_name": "我的技术文档",

"stream": false

6.3 创建测试客户端脚本

编写一个简单的Python测试客户端：

PYTHON

# test_client.py

import requests

import json

class RAGFlowClient:

def __init__(self, base_url="http://localhost", api_key="your-api-key"):

self.base_url = base_url

self.headers = {

"Content-Type": "application/json",

"Authorization": f"Bearer {api_key}"

}

def chat(self, message, knowledge_base_name):

"""发送聊天消息"""

payload = {

"message": message,

"knowledge_base_name": knowledge_base_name,

"stream": False

}

response = requests.post(

f"{self.base_url}/api/v1/chat",

headers=self.headers,

json=payload

)

if response.status_code == 200:

return response.json()

else:

print(f"请求失败: {response.status_code}")

return None

# 使用示例

if __name__ == "__main__":

client = RAGFlowClient()

# 测试问题

questions = [

"什么是RAG技术？",

"Deepseek模型有什么特点？",

"如何优化知识库的检索效果？"

]

for question in questions:

print(f"问题: {question}")

result = client.chat(question, "我的技术文档")

if result:

print(f"回答: {result.get('response', '无回答')}")

print("-" * 50)

7. 常见问题与解决方案

在部署过程中可能会遇到各种问题，这里列出最常见的问题和解决方法。

7.1 部署阶段问题

问题现象	可能原因	解决方案
Docker启动失败	端口被占用	修改docker-compose.yml中的端口映射
模型加载失败	内存不足	增加swap空间或使用更小模型
网络连接超时	防火墙限制	检查防火墙设置或使用国内镜像源

7.2 运行阶段问题

问题1：RAGFlow无法连接Deepseek API

BASH

# 检查服务连通性

docker exec ragflow ping deepseek-api

# 检查Deepseek API日志

docker-compose logs deepseek-api

# 验证API端点

curl http://deepseek-api:5000/health

问题2：文档解析失败

确保文档格式受支持（PDF、DOCX、TXT等）
检查文档是否加密或损坏
查看RAGFlow解析日志

问题3：检索效果不佳

调整chunk大小和重叠参数：

YAML

# 在知识库配置中调整

chunk_size: 256 # 减小chunk大小提高精度

chunk_overlap: 50 # 增加重叠避免信息断裂

7.3 性能优化问题

内存不足处理：

BASH

# 查看内存使用

docker stats

# 限制容器内存使用

# 在docker-compose.yml中添加：

deploy:

resources:

limits:

memory: 8G

reservations:

memory: 4G

8. 生产环境最佳实践

当系统准备投入生产环境使用时，需要考虑以下最佳实践。

8.1 安全配置

修改默认凭证：

BASH

# 生成强密码

openssl rand -base64 32

# 在环境变量中设置

export RAGFLOW_ADMIN_PASSWORD=your_strong_password

配置HTTPS：

YAML

# 添加nginx反向代理配置

nginx:

image: nginx:alpine

ports:

- "443:443"

volumes:

- ./nginx.conf:/etc/nginx/nginx.conf

- ./ssl:/etc/nginx/ssl

8.2 数据备份策略

创建定期备份脚本：

BASH

# !/bin/bash

# scripts/backup.sh

BACKUP_DIR="./backups"

DATE=$(date +%Y%m%d_%H%M%S)

mkdir -p $BACKUP_DIR

# 备份数据库

docker exec ragflow sqlite3 /app/data/ragflow.db .dump > $BACKUP_DIR/ragflow_$DATE.sql

# 备份向量存储

tar -czf $BACKUP_DIR/vector_store_$DATE.tar.gz ./data/vector_store

# 备份文档

tar -czf $BACKUP_DIR/documents_$DATE.tar.gz ./data/documents

echo "备份完成: $BACKUP_DIR"

8.3 监控与日志

配置日志轮转和监控：

YAML

# 在docker-compose.yml中添加日志配置

logging:

driver: "json-file"

options:

max-size: "10m"

max-file: "3"

创建健康检查脚本：

PYTHON

# monitor.py

import requests

import time

import logging

logging.basicasicConfig(level=logging.INFO)

logger = logging.getLogger(__name__)

def health_check():

services = {

"ragflow": "http://localhost/health",

"deepseek-api": "http://localhost:5000/health"

}

for service, url in services.items():

try:

response = requests.get(url, timeout=5)

if response.status_code == 200:

logger.info(f"{service} 健康状态: 正常")

else:

logger.error(f"{service} 健康状态: 异常 - {response.status_code}")

except Exception as e:

logger.error(f"{service} 连接失败: {str(e)}")

if __name__ == "__main__":

while True:

health_check()

time.sleep(300) # 5分钟检查一次

9. 进阶功能扩展

当基础功能稳定后，可以考虑以下扩展功能。

9.1 多模型支持

配置支持多个LLM模型：

YAML

# config/multi_model_config.yaml

model_endpoints:

deepseek:

url: "http://deepseek-api:5000/chat"

max_tokens: 2048

alternative:

url: "http://alternative-api:5001/chat"

max_tokens: 1024

model_selector:

strategy: "round_robin" # 或基于query的智能选择

9.2 自定义文档解析

支持特殊文档格式的解析：

PYTHON

# custom_parsers.py

from ragflow.parser import BaseParser

class CustomDocumentParser(BaseParser):

def parse(self, file_path):

# 实现自定义解析逻辑

pass

def get_chunks(self, content, chunk_size=512):

# 自定义文本分割策略

pass

完成以上所有步骤后，你就拥有了一个完整的本地AI知识库系统。这个系统不仅保护了你的数据隐私，还能针对专业领域提供准确的问答服务。随着使用时间的积累，知识库会变得越来越"懂你"，成为个人或团队不可或缺的知识管理工具。

建议在实际使用过程中，先从小的文档集合开始，逐步优化chunk策略和检索参数，找到最适合你使用场景的配置。定期备份数据，关注社区更新，及时升级到新版本以获得更好的功能和性能。