社区
高通开发者论坛
帖子详情
高通的NPE为什么底层要CPU GPU DSP NPU这么多核心
sundaygeek
2018-07-26 11:50:44
大佬,问下高通的NPE为什么底层要CPU GPU DSP NPU一起上?
每一个作用是什么,为什么要那么多核心?
...全文
2990
1
打赏
收藏
高通的NPE为什么底层要CPU GPU DSP NPU这么多核心
大佬,问下高通的NPE为什么底层要CPU GPU DSP NPU一起上? 每一个作用是什么,为什么要那么多核心?
复制链接
扫一扫
分享
举报
写回复
配置赞助广告
用AI写文章
1 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
weixin_38498942
2019-01-08
打赏
举报
回复
传统芯片厂商(如CPU、GPU和DSP)对于深度学习市场非常重视,因此利用他们巨大体量和市场推广、销售能力,大力推广用这些传统芯片来进行深度学习处理,其本质上也是对现有的技术进行微调,用传统SIMD架构来适配神经网络。
然而,由于传统CPU、GPU和DSP本质上并非以硬件神经元和突触为基本处理单元,相对于NPU在深度学习方面天生会有一定劣势,在芯片集成度和制造工艺水平相当的情况下,其表现必然逊色于NPU。
比特人生
2018-09-11
打赏
举报
回复
CPU是应用处理器,处理应用程序逻辑处理会比较容易,GPU是用于图形加速的,并行及图形处理更出色,而这个是CPU处理指令无法胜任的,DSP是专门为了把一些算力密集型的比如音频算法,硬解码的工作放到更低功耗的DSP完成,也是CPU无法比拟的,NPU针对神经网络,这都是细分出来的,能更好的胜任
高通
S
NPE
SDK介绍 (2)
一、Snapdragon
NPE
Runtime 如下图: 此图描述了在设备上运行的Snapdragon
NPE
Runtime Library的某些组件。 在较高的层次上,该库包含以下内容: DL容器加载器:加载由s
npe
-framework-dlc转换工具之一创建的DLC。 模型验证:验证所需的运行时是否支持已加载的DLC。请参阅支持的网络层 运行时引擎:在请求的运行时执行加载的模型,包括收...
AI性能测试:一向发烧的小米MIX 2S落败荣耀10原因究竟在哪?
进入2018年开始,AI人工智能在手机端开始可感知,无论是拍照场景识别还是照片色彩调整,AI软件开始逐渐走入用户生活,人们在选购时也更倾向于具有AI功能的手机。不过在大家都谈AI形势下,不乏浑水摸鱼者,炒作概念者。因此,消费者要火眼金睛,识破各种不靠谱的“假AI手机”。为什么说“假AI”?既然存在“假”,那就有“真”。手机行业对于“真假AI”是这样判断的,凡是能够在
底层
实现AI运算的都称之为“真A...
移动端AI——回望移动平台的 AI 革命
也就是说,S
NPE
不但支持 Caffe、Caffe2、TensorFlow 和 Edge 设备端专用的 TensorFlow Lite 等深度学习框架,也支持由 Facebook 和微软发起的 ONNX(Open Neural Network Exchange),一个 Intermediate Representation,让 Caffe2、CNTK、PyTorch 以及 MXNet 这些框架可以实现模型互通,方便芯片厂商可以针对一个标准进行硬件级别优化。
AI芯片架构全景:从
NPU
设计到部署优化的工程实践
AI芯片并非独立于
CPU
和
GPU
的新物种,而是围绕矩阵乘法与卷积等张量运算深度优化的专用处理器。理解其
核心
原理,从MAC阵列、片上缓存到数据搬运总线,才能看清算力瓶颈的本质。在实际工程中,模型量化、算子融合与内存带宽匹配是决定推理性能的关键环节。无论是边缘侧的RK3588开发板还是云侧加速卡,从CNN到Transformer的架构演进都对芯片设计提出了差异化要求。掌握架构选型与部署优化的方法论,能帮助开发者在真实场景中实现从算法到硬件的流畅映射。本文从芯片设计的
底层
概念出发,逐步展开系统视角下的技术全景,为
AI手机端侧AI落地:异构芯片、3D感知与框架选型指南
端侧AI指在移动设备本地完成推理计算,不再完全依赖云端。其
核心
原理是异构芯片协同工作:
CPU
负责调度,
GPU
承担并行计算,
NPU
加速矩阵运算,配合
DSP
实现低功耗处理。要让模型真正高效运行,还需依赖模型量化、算子融合等工程优化,将体积压缩、速度提升。在AI手机场景中,端侧AI能降低时延、保护隐私,为人脸识别、AR交互、实时翻译等应用提供实时算力支撑。5G催生的端云协同进一步拓展了边界,但大量对时延敏感的任务仍须端侧兜底。本文从AI手机白皮书出发,拆解端侧芯片、3D感知与AI框架三条技术主线,给出一套可落地的
高通开发者论坛
7,831
社区成员
6,482
社区内容
发帖
与我相关
我的任务
高通开发者论坛
本论坛以AI、IoT、PC 、XR、Auto等核心板块组成,为开发者提供便捷及高效的学习和交流平台。 高通开发者专区主页:https://qualcomm.csdn.net/
复制链接
扫一扫
分享
社区描述
本论坛以AI、IoT、PC 、XR、Auto等核心板块组成,为开发者提供便捷及高效的学习和交流平台。 高通开发者专区主页:https://qualcomm.csdn.net/
物联网
人工智能
开源
企业社区
北京·东城区
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章