请问如何将AI的模型比如 onnx 的文件嵌入到头显中，性能如何？

正在学前端的Mill 2022-06-16 14:44:09

请问如何将AI的模型比如 onnx 的文件嵌入到头显中，性能如何？

...全文
1908 1 打赏 收藏 转发到动态 举报
AI 作业
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
weixin_38498942 2022-06-16
  • 打赏
  • 举报
 回复

首先你要在引擎中有写解析 onnx 格式的SDK，并调查性能消耗。

AI模型部署初认识
AI部署这个词儿大家肯定不陌生，可能有些小伙伴还不是很清楚这个是干嘛的，但总归是耳熟能详了。近些年来，在深度学习算法已经足够卷卷卷之后，深度学习的另一个偏向于工程的方向–部署工业落地，才开始被谈论的多了起来。当然这也是大势所趋，毕竟AI算法那么多，如果用不着，只在学术圈搞研究的话没有意义。因此很多AI部署相关行业和AI芯片相关行业也在迅速发展，现在虽然已经2021年了，但我认为AI部署相关的行业还未到头，AI也远远没有普及。
一文详解AI模型部署及工业落地方式
最近在复盘今年上半年做的一些事情，不管是，还是写一些组件代码等，零零散散是有一些产出。虽然有了一点点成果，但仍觉着缺点什么。作为深感还有很多很多的地方啊。所有资料 ⚡️ ，朋友们如果有需要全套 《》，沉迷学习无法自拔既然要学习，那么学习路线就显得比较重要了。本文重点谈谈学习的一些基础和需要提升的地方。这也是老潘之前学习、或者未来需要学习的一些点，这里下，也希望大家能够提出一点意见。这个词儿大家肯定不陌生，可能有些小伙伴还不是很清楚这个是干嘛的，但总归是耳熟能详了。近些年来，在深度学习算法已经。
AI算法模型线上部署方法总结
AI算法模型线上部署方法总结一、机器学习算法线上部署方法1.1 三种场景1.2 如何转换PMML，并封装PMML1.3 接下来说一下各个算法工具的工程实践1.3.1 python模型上线：我们目前使用了模型转换成PMML上线方法。1.3.2 R模型上线-这块我们用的多，可以用R model转换PMML的方式来实现。1.3.3 Spark模型上线-好处是脱离了环境，速度快。1.4 只用Linux的Shell来调度模型的实现方法—简单粗暴1.5 说完了部署上线，说一下模型数据流转的注意事项二、机器学习算法的部署
关于Stable diffusion的各种模型，看这篇就可以了！
第一次接触SD的时候，我就被里面的模型搞到头大，不仅有多种模型后缀，模型之间也有很多种类型，如果是新手小白的话，在这一步就很容易被搞晕。而在本期文章，技术巫帮你系统梳理了SD的模型，相信不管是对于小白还是老手，都会有一定帮助！
收藏！一线工程师超全总结AI部署以及工业落地的学习方法
这个要紧关头，如果我们的模型运行的足够快，可以省机器又可以腾一些buffer上新模型岂不很爽，这个时候也就需要优化模型了，其实优化手段也都差不多，只不过平台从arm等嵌入式端变为gpu等桌面端了。同时也是抛砖引玉，看看大家对于部署有没有更好的想法。量化训练是在模型训练中量化的，与PTQ(训练后量化)不同，这种量化方式对模型的精度影响不大，量化后的模型速度基本与量化前的相同(另一种量化方式PTQ，TensorRT或者NCNN中使用交叉熵进行校准量化的方式，在一些结构中会对模型的精度造成比较大的影响)。
高通开发者论坛

2,852

社区成员

5,758

社区内容

发帖
与我相关
我的任务
社区描述
本论坛以AI、WoS 、XR、IoT、Auto、生成式AI等核心板块组成，为开发者提供便捷及高效的学习和交流平台。 高通开发者专区主页：https://qualcomm.csdn.net/
人工智能物联网机器学习 技术论坛（原bbs） 北京·东城区
社区管理员
  • csdnsqst0050
  • chipseeker
加入社区
  • 近7日
  • 近30日
  • 至今

加载中

查看更多榜单
社区公告
暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章