高通发布《通过 NPU 和异构计算开启终端侧生成式 AI》白皮书

chipseeker 2024-03-06 10:02:49

《通过 NPU 和异构计算开启终端侧生成式 AI》白皮书

生成式 AI 变革已经到来。随着生成式 AI 用例不断增加，计算需求日益增长，我们需要专为 AI 定制设计的全新计算架构——NPU (神经处理单元）
高通技术公司通过业界领先的 NPU 结合异构计算，正在为各类终端解锁全新增强的生成式 AI 体验，赋能终端侧生成式 AI 规模化扩展，让 AI 触手可及。

白皮书下载连接： tong_guo_npu_he_yi_gou_ji_suan_kai_qi_zhong_duan_ce_sheng_cheng_shi_ai.pdf (qualcomm.cn)

...全文

1864 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

prajina99 2024-03-06

打赏
举报

回复

希望很快看到大语言模型在手机大规模使用

电子元件电子行业行业分析数据分析数据报告行业报告

电子元件电子行业行业分析数据分析数据报告行业报告

这首先需要一个面向生成式AI全新设计的神经网络处理器(NPU)，同时要利用异构处理器组合，比如中央处理器(CPU)和图形处理器(GPU)。支持处理多样性的异构计算架构能够发挥每个处理器的优势，例如以AI为中心定制设计的NPU，以及CPU和GPU。Hexagon NPU是高通业界领先的异构计算架构——高通AI引擎中的关键处理器，高通AI引擎还包括高通Adreno GPU、高通Kryo或高通Oryon CPU、高通传感器中枢和内存子系统。骁龙和高通品牌产品是高通技术公司和/或其子公司的产品。

高通开发者论坛

3,425

社区成员

5,803

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章