14.TensorRT中文版开发教程-----TensorRT中的常见问题

TensorRT中的常见问题点击此处加入NVIDIA开发者计划以下部分有助于回答有关 NVIDIA TensorRT 典型用例的最常见问题。14.1. FAQs本部分旨在帮助解决问题并回答我们最常问的问题。问：如何创建针对多种不同批次大小进行优化的引擎？答：虽然 TensorRT 允许针对给定批量大小优化的引擎以任何较小的大小运行，但这些较小大小的性能无法得到很好的优化。要针对多个不同的批量大小进行优化，请在分配给OptProfilerSelector::kOPT的维度上创建优化配置文件。问