SNPE中UserBufferEncodingTfN和UserBufferEncodingFloat用法上有什么区别吗？是不是量化模型只能用UserBufferEncodingTfN？

[阿斯兰查拉]

SNPE中UserBufferEncodingTfN和UserBufferEncodingFloat用法上有什么区别吗？是不是量化模型只能用UserBufferEncodingTfN？

[weixin_38498942]

对于您的前一个问题，用法上确实存在区别。如果您申请的是UserBufferEncodingTfN的UserBuffer（这里以uFxp_8为例），那么实际上其data指针应该是uint8_t类型的，您可以通过getStepExactly0和getQuantizedStepSize读出zp和scale，然后手动把您的浮点数转为定点数放入userbuffer（或是把userbuffer中的定点数手动转为浮点数使用），而如果您申请的是UserBufferEncodingFloat，您写入和读出的都是float类型的数据，剩下的snpe会自动帮您完成。对于您的第二个问题，不是。使用UserBufferEncodingFloat会更简洁/更方便，但是UserBufferEncodingTfN会更快。