在 AI Edge Box 上部署模型时，如何确认输入 Tensor 的数据格式是否符合 NPU 要求？

我擦，我kin 2026-08-25 11:23:37

在 AI Edge Box 上部署模型时，如何确认输入 Tensor 的数据格式是否符合 NPU 要求？

...全文

13 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

本文围绕YOLOv11模型在算能NPU开发板上的部署展开，重点对比不带NMS、官方带NMS及手动添加NMS三种推理方案。涵盖环境搭建（bm-smi查看硬件、tpu-mlir与sophon库安装）、ONNX模型转换、Python/C++推理实现，以及NMS节点裁剪与重插入等关键技术环节，旨在提升NPU端检测推理效率与精度。

本文系统梳理微处理器从半导体物理、制程工艺（FinFET/GAA/CFET、EUV、HKMG）、微架构（前端预取/解码/μop Cache、后端ALU/FPU/SIMD/LSU）、先进封装（Chiplet/UCIe/CoWoS）、互连协议（CXL 3.0/CHI/AXI）、内存子系统（HBM/PIM/CIM）到安全机制（TDX/CXL IDE/侧信道防护）的全技术栈，涵盖120+编号模块，强调硬件设计、一致性、功耗、可靠性与AI协同演进。

本文系统梳理凤凰架构22个核心组件的算法设计与数学基础，涵盖Paxos/Raft一致性协议、Gossip传播模型、MVCC事务隔离、TCC分布式事务、令牌桶限流、熔断器状态机、一致性哈希、LRU缓存、JWT签名验证、ELK日志延迟建模、链路追踪采样概率、Prometheus时序计算、服务发现容错分析、网关路由复杂度、容器资源约束、K8s调度打分函数、VXLAN封装开销、CSI存储容量规划、IstioSidecar资源模型及架构演进量化指标。所有方案均给出可验证的数学方程式、约束条件与工程参数设计。

本文系统构建了智算中心DaaS（数据即服务）的全栈算法体系，涵盖数值分析、机器学习、深度学习、优化、隐私安全及行业专用算法六大类；重点剖析金融、医疗、制造、智慧城市和教育五大行业的业务场景、合规条例、参数特征及算法适配策略；提出分层架构、算法分级分类、软硬件依赖全景、时序执行逻辑与复杂度评估框架，强调行业知识融合、混合精度计算、自适应参数调优与合规驱动的算法选型方法。

科易网基于40亿+科创知识图谱数据库，深度探索AI技术在技术转移、成果转化、技术经纪、知识产权、产业创新、科技招商等垂直领域的多样化应用场景，研究科技创新领域的AI+数智化解决方案，推动科技创新与产业创新智能化发展。

高通开发者论坛

7,653

社区成员

6,412

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章