1
社区成员
发帖
与我相关
我的任务
分享| 课时名称 | 课时知识点 |
|---|---|
| 极端性能优化——火焰图、瓶颈定位与资源配额 | **定位**:面向高并发和高成本场景做系统化优化。 **核心内容**: - 性能剖析方法:pprof、perf、GPU 监控、系统指标 - 首 token 慢、生成慢、排队慢的定位路径 - 模型大小、上下文、并发数和批处理的联动 - 资源配额:用户、模型、业务线维度 - 压测报告和容量规划方法 **实战目标**:对企业 AI 助手平台做一次容量评估,给出单机/多机部署建议、瓶颈分析和扩容方案。 |