高通 AMET 是什么?

我和我的勋章 2023-07-12 18:27:14

高通 AMET 是什么?

...全文

1815 1 打赏收藏转发到动态举报

写回复

用AI写文章

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

weixin_38498942 2023-07-13

打赏
举报

AMET（AI Model Efficiency Toolkit）是高通推出的一个工具集，旨在帮助开发人员优化和压缩神经网络模型，以在高通平台上实现更高的性能和效率。
AMET 提供了一系列工具和库，用于模型量化、剪枝、量化感知训练（Quantization-Aware Training）、模型压缩和优化等任务。它支持多种神经网络框架，如TensorFlow、Caffe和ONNX等，并提供了针对高通芯片的特定优化功能。
通过使用 AMET，开发人员可以改善神经网络模型在高通平台上的执行效率，减少模型大小和计算需求，从而实现更快速、更节能的推理和训练过程。

高通AIMET [1] 是一个开源程式库，用于优化已训练的神经网络模型。开发者可以将 AIMET 的压缩和量化算法整合到 PyTorch 和 TensorFlow 的模型构建流程中，用于自动化后训练优化及模型微调，从而省去手动优化神经网络的繁琐过程。

Qualcomm AI Hub支持Pytorch、ONNX、AIMET、Tensorflow等主流AI框架训练的模型，本文介绍了如何使用AI Hub相关的SDK接口把这些模型编译成TensorFlow Lite和Qualcomm AI Engine Direct (QNN)。

将 PyTorch 编译为 TensorFlow LiteQualcomm AI Hub 支持编译使用以下方法训练的模型：PyTorch 插件ONNXTensorFlow（通过 ONNX）上述任何模型都可以针对以下目标运行时进行编译TensorFlow Lite（推荐给 Android 开发者）（推荐给 Windows 开发人员）

本书首先讲述提示技术的基本工作原理、提示工程师的常用工具、提示技术的基础模式和提示技术的进阶知识（包括零样本提示、少样本提示和思维链提示）；然后讲解自然语言处理的基础知识和ChatGPT大模型方面的内容，以及NLP模型的特点和应用场景；6.3　用ChatGPT生成游戏原画　134。6.2　用ChatGPT生成装修图　127。7.1　用ChatGPT帮助写代码　162。5.1　用ChatGPT生成PPT　95。6.1　用ChatGPT生成插画　120。6.4　用ChatGPT生成视频　145。

第一作者(乔恩)的父母都是艺术家。他们每个人都可以画出类似真实生活的幻想画，并且震惊地看到他们的儿子几乎不能画出简笔画。如果你一直认为你的内在艺术家是通过你在电脑和互联网的帮助下可以建立的东西来最好地表达的，那么这本书可以指导你的虚拟画笔。成品呢？适用于 Android 设备的移动 Web 应用，这反过来可以激发数百万潜在用户的创造力和生产力。我们希望这本书能给你所需要的一切，让你立刻开始工作，创作出你的杰作。