我想知道我是否可以使用 AIMET 工具对我的 PyTorch 模型进行量化并将其转换为 TFLite 模型。我有一个使用 PyTorch 训练的模型,想将其作为 TFLite 模型部署在设备上。我可

超级给力活动小助手 2024-10-18 13:03:56

你好,我想知道我是否可以使用 AIMET 工具对我的 PyTorch 模型进行量化并将其转换为 TFLite 模型。我有一个使用 PyTorch 训练的模型,想将其作为 TFLite 模型部署在设备上。我可以使用 AIMET 进行量化吗?
有两种方法可以做到这一点:
PyTorch 模型→AIMET(PyTorch 量化)→ONNX + 编码文件→TensorFlow→TFLite;
PyTorch 模型→TensorFlow→AIMET(TensorFlow 量化)→常规 TF 元数据 / 检查点模型→TFLite。
对于方法 1,你们是否提供将 ONNX 模型和编码文件转换为 TensorFlow 模型的 API?并且是否可以使用方法 2 来进行这个过程呢?
非常感谢。

...全文
833 1 打赏 收藏 转发到动态 举报
AI 作业
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
weixin_38498942 2024-10-21
  • 打赏
  • 举报
回复

2,851

社区成员

发帖
与我相关
我的任务
社区描述
本论坛以AI、WoS 、XR、IoT、Auto、生成式AI等核心板块组成,为开发者提供便捷及高效的学习和交流平台。 高通开发者专区主页:https://qualcomm.csdn.net/
人工智能物联网机器学习 技术论坛(原bbs) 北京·东城区
社区管理员
  • csdnsqst0050
  • chipseeker
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧