二次开发与插件化扩展——把 Ollama 嵌进企业平台
| 课时名称 | 课时知识点 |
|---|
| 二次开发与插件化扩展——把 Ollama 嵌进企业平台 | **定位**:从使用 Ollama 到改造 Ollama。
**核心内容**:
- 适合二次开发的边界:API、鉴权、审计、模型仓库、策略层
- 不建议直接侵入的边界:推理核心、模型格式、底层后端
- 扩展 API、增加中间件、接入企业身份系统
- 与 OpenAI 兼容接口、LangChain、LlamaIndex 等生态集成
- 维护分叉版本的成本与升级策略
实战目标:为 Ollama 服务增加企业级审计中间件,记录用户、模型、Prompt 摘要、耗时和错误信息。
|