使用Torch-TensorRT在PyTorch中将推理速度提高6倍
使用Torch-TensorRT在PyTorch中将推理速度提高6倍我对Torch-TensorRT感到兴奋,这是PyTorch与NVIDIA TensorRT的新集成,它用一行代码就可以加速推理。PyTorch是当今领先的深度学习框架,在全球拥有数百万用户。TensorRT是一个用于跨gpu加速平台的高性能、深度学习推理的SDK,运行在数据中心、嵌入式和汽车设备上。这种集成使得PyTorch用户在使用TensorRT时可以通过简化工作流获得极高的推断性能。什么是 Torch-TensorRT