| 课程名称 | 适应人群 |
|---|
| 后端工程师的 AI 转型第一课:Ollama 与私有化大模型实战 | 新人开发 / 测试工程师:想快速入门本地大模型运行与 API 调用,搭建第一个 AI 应用
1. AI 应用开发工程师:需要将大模型接入业务系统,构建 RAG、工具调用、代码助手等场景
2. 运维 / SRE 工程师:负责私有化 AI 服务的部署、监控、资源治理与故障排查
3. 架构师 / 资深开发:评估本地大模型平台架构、二次开发成本与生产落地风险 |
本专栏以 Ollama 本地大模型运行平台为主线,采用「业务痛点 → 三人剧本对话 → 代码实战 → 总结思考」的四段式结构,系统讲解从单机安装到生产级私有化 AI 推理平台的完整链路。
内容特色:
-
实战导向:先让读者把模型跑起来、接入业务、定位问题,再逐步深入模型文件、推理服务、性能调优与源码剖析
-
场景驱动:覆盖内部知识库问答、客服助手、代码助手、私有化 AI 网关、多模型评测、GPU 资源治理等真实企业场景
-
分层进阶:40 章分为基础篇(15 章)、中级篇(15 章)、高级篇(10 章),适配新人开发、AI 应用开发、运维/SRE、架构师不同角色
-
源码级深度:从 API 路由、模型管理、Runner 生命周期到 KV Cache 优化,打通使用层到源码层的认知闭环
学完收益: 完成全部章节后,您将能够独立搭建一套可观测、可扩展、可维护的本地大模型服务平台,掌握模型选型、RAG 知识库、工具调用、并发治理、容器化部署、性能调优及二次开发等核心能力。