社区
OPEN AI LAB开放智能
Tengine开源说
帖子详情
OPEN AI LAB
企业官方账号
2021-08-11 14:12:14
Tengine开源说第四课-Tengine低比特量化介绍,本周四晚8点,再次与大家不见不散。感兴趣的小伙伴扫码进群哦!
...全文
2441
回复
打赏
收藏
Tengine开源说第四课-Tengine低比特量化介绍,本周四晚8点,再次与大家不见不散。感兴趣的小伙伴扫码进群哦!
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
极智AI |
Tengine
模型转换及
量化
本文详述了
Tengine
的模型转换和
量化
过程,包括编译
Tengine
Tools、使用不同前端框架(如Caffe、TensorFlow等)进行模型转换,以及执行
量化
推理的步骤。通过
Tengine
提供的丰富工具,支持多种深度学习框架的模型转换,实现高效端侧推理。
格灵深瞳
开源
量化
算法 EasyQuant
格灵深瞳
开源
的EasyQuant
量化
算法,通过精细搜索
量化
参数提升精度,适用于Int7及更
低
比特
量化
,实现在
低
精度下接近Float32的表现。此算法无需大量样本和训练,易于应用,已在多种任务、网络框架和平台验证其鲁棒性。
Unity
TEngine
5
开源
框架 学习记录 四、模块
介绍
文章记录了Unity
TEngine
开源
框架使用的一些API,涵盖热更逻辑、单例、UI、资源、对象池、事件等多个模块。
介绍
了各模块的功能、使用方法及注意事项,如资源模块的运行模式、事件系统的驱动架构等,还提及了配置表模块和商业化流程、UI模块。
极智AI | 谈谈
Tengine
TensorRT 后端组织流程
本文详细
介绍
了如何将
Tengine
与TensorRT后端进行整合,通过
Tengine
的trt后端实现,包括通用部分和TensorRT特定部分的对接,涉及到网络算子、网络结构组织、预运行构建以及int8
量化
操作。虽然未充分利用
Tengine
的
量化
模块,但整个流程展示了
Tengine
与TensorRT的直接连接,适用于构建独立的trt推理工程。
tengine
|
tengine
-nnie编译
本文详细
介绍
了如何在海思3516CV500、3516DV300和3519AV100平台上使用
Tengine
进行神经网络推理,包括安装海思编译链、
Tengine
版本库,以及处理opencv依赖问题的解决方案。
OPEN AI LAB开放智能
72
社区成员
20
社区内容
发帖
与我相关
我的任务
OPEN AI LAB开放智能
Tengine是OPEN AI LAB开发的轻量级AI推理框架,目前已在GitHub上开源,欢迎各位加入到我们的开源社区里来~https://github.com/OAID/Tengine
复制链接
扫一扫
分享
社区描述
Tengine是OPEN AI LAB开发的轻量级AI推理框架,目前已在GitHub上开源,欢迎各位加入到我们的开源社区里来~https://github.com/OAID/Tengine
github
git
企业社区
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章