Runner 与推理进程管理——模型如何被加载和卸载

[davidwang456]

课时名称	课时知识点
Runner 与推理进程管理——模型如何被加载和卸载	**定位**：理解 Ollama 运行时最关键的生命周期管理。 **核心内容**： - Runner 的职责：加载模型、接收请求、执行推理、返回 token - 模型实例复用、空闲检测和卸载策略 - 进程管理、健康检查和异常恢复 - 并发请求与模型占用的协调 - CPU/GPU 后端选择的运行时影响 **实战目标**：修改或扩展日志，观察模型冷启动、热调用、空闲卸载和异常退出后的恢复过程。