2,861
社区成员




我想了解Snapdragon 8 Gen 2/3设备上对稀疏模型加速的硬件级支持,特别是在CPU、GPU和AI加速器(NPU/DSP)方面。这些平台是否为稀疏神经网络提供原生硬件加速,比如N:M稀疏模式或随机稀疏?
我注意到AIMET支持模型剪枝,但我不清楚Snapdragon底层硬件是否能有效利用这种稀疏性。如果硬件本身不原生支持稀疏加速,是否有专为Snapdragon平台设计的框架或库,能够高效执行稀疏模型并带来实际的性能提升?
具体来说,我希望了解:
非常感谢任何关于在Snapdragon平台上实际实现模型稀疏性及其性能优势的见解。
目前没有确切信息表明Snapdragon 8 Gen 2/3的硬件直接支持结构化N:M稀疏或非结构化随机稀疏等特定稀疏模式。