Ollama本地部署：DeepSeek私有化模型搭建

AI架构师Array老师 2025-03-24 17:06:06

课时名称	课时知识点
Ollama本地部署：DeepSeek私有化模型搭建	Ollama本地部署：DeepSeek私有化模型搭建Ollama本地部署：DeepSeek私有化模型搭建

...全文

156 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

未来，随着模型轻量化技术的进步，本地化部署将成为AI普惠应用的重要方向。本文将指导您在3分钟内，通过Ollama、DeepSeek和ChatBox，完成从模型下载到可视化交互的全流程，实现完全离线的AI助手部署。DeepSeek提供不同参数量级的模型，如1.5B（低配设备）、7B（均衡性能）、32B（高性能需求）、70B或671B（科研）。打开ChatBox，进入“设置” → “模型提供方”，选择“Ollama API”。：在使用Ollama下载DeepSeek模型时，下载速度缓慢，甚至出现连接错误。

登录chatbox ai，点击设置，选择ollama，在API主机输入http://127.0.0.1:11434，在模型中点击“获取”会弹出“deepseek-r1:1.5b”在本地按win+R，输出cmd，打开终端，输入 ollama run deepseek-r1:1.5b运行模型。登录https://chatboxai.app/en下载Chatbox AI软件，打开下载的ollama，选择刚刚下载的模型即可在可视化界面中开始对话。设置deepseek-r1:1.5b为默认模型。

本文介绍了在Ubuntu 22.04系统上使用Ollama框架快速部署本地离线AI大模型的方法。Ollama作为轻量化管理工具，支持主流开源模型，安装简单（一条命令即可完成），资源占用低，适合低配设备。文章详细说明了系统环境要求、安装步骤、模型拉取运行方法（以deepseek模型为例），并提供了局域网共享访问配置方案和常见问题解决方案。该方法具有通用性，可一键部署Llama、Qwen等各类主流模型，实现数据隐私保护、免费无限制调用的本地AI服务，适合个人学习、办公辅助等场景。

RAG（Retrieval-Augmented Generation）是一种结合了检索（Retrieval）生成（Generation）的技术，旨在通过引入外部知识库来增强模型的生成能力。简单来说，RAG 让模型在回答问题时，能够像“查百科全书”一样，从外部知识库中检索相关信息，并生成更准确、更丰富的答案。本篇提供两种方式实战RAG。1、使用硅基流动提供的DeepSeek API+CherryStudio搭建本地知识库。

本文提供了一份详尽的Ubuntu系统下RAGFlow与DeepSeek-R1私有化部署实战指南。内容涵盖从Docker环境配置、RAGFlow部署、Ollama模型服务搭建，到两者深度整合的全流程，并附有详细的避坑指南与网络优化技巧，旨在帮助用户构建安全、高效、完全自主可控的本地AI知识库系统。

Java架构师Array的课程社区_NO_7

1

社区成员

56

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章