QNNPACK 和传统方法计算削减维度的区别？

非常不一般 2023-05-17 10:09:10

QNNPACK 和传统方法计算削减维度的区别？

...全文

1682 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

weixin_38498942 2023-05-18

打赏
举报

回复

QNNPACK 的做法是将整个维全部在计算核中处理完，这样就几乎完全消除了输出部分和的访存。这里所说的「将整个维全部」并不是指维不拆分——在实际计算中维还是会以 8 为基础拆分——而是指拆分后不和其他维度交换（interchange）

https://zhuanlan.zhihu.com/p/81026071 引言 QNNPACK(Quantized Neural Networks PACKage) 是 Marat Dukhan (Facebook) 开发的专门用于量化神经网络计算的加速库。其卓越的性能表现一经开源就击败了几乎全部已公开的加速算法，甚至直至今日（2019 年中）。 QNNPACK 开源时附带了一份技术博客简要介绍了其主要的实现技巧，最近开发者又发表了论文介绍其中卷积的优化方法。然两份文献过于概略，而具体代码又比较晦.

点击上方“小白学视觉”，选择加"星标"或“置顶” 重磅干货，第一时间送达本文转自 | 视觉算法引言气象预报、石油勘探、核子物理等现代科学技术大多依赖计算机的计算模拟，...

GEMM 主题文章写了两版，这是第一版，第二版参见我的博客。采用知识共享署名-非商业性使用-禁止演绎 4.0 国际许可授权，转载请注明出处。引言气象预报、石油勘探、核子物理等现代科学技术大多依赖计算机的计算模拟，模拟计算的核心是表示状态转移的矩阵计算。另一方面，计算机图形处理以及近年来兴起的深度学习也和矩阵乘高度相关。而矩阵乘对计算资源消耗较大，除了计算机体系结构的不断更新外，软件优化方面也有大...

来源：AI蜗牛车、极市平台本文约9200字，建议阅读10+分钟本文为你简要介绍几种常见的CNN优化方法，并分享相关经验。作者丨黎明灰烬来源｜https://zhuanlan.zhihu...

本文简要介绍通用矩阵乘（GEMM，General Matrix Multiplication）优化的基本概念和方法、神经网络量化中矩阵乘的优化方法。

高通开发者论坛

2,851

社区成员

5,751

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章