16.TensorRT中文版开发教程-----TensorRT的数据格式

TensorRT的数据格式定义详解点击此处加入NVIDIA开发者计划TensorRT 支持不同的数据格式。有两个方面需要考虑：数据类型和布局。数据类型格式数据类型是每个单独值的表示。它的大小决定了取值范围和表示的精度，分别是FP32（32位浮点，或单精度），FP16（16位浮点或半精度），INT32（32位整数表示），和 INT8（8 位表示）。布局格式布局格式确定存储值的顺序。通常，batch 维度是最左边的维度，其他维度指的是每个数据项的方面，例如图像中的C是通道， H是高度， W是宽度。