桌面整理赛题——DiT模型在310P上的推理速度显著慢于3090

lxx1236 队员 2026-01-18 13:06:28

我们在310P上部署DiT模型,发现推理速度显著慢于3090。这是我在310P上部署模型对源码和环境做的修改,不知道是否是由于xformers禁用或者diffusers找不到xpu导致的。另外,下面是我们在310P部署过程中的一些记录,供参考。

 

 

...全文
43 2 打赏 收藏 转发到动态 举报
写回复
2 条回复
切换为时间正序
请发表友善的回复…
发表回复
fanna123123 队员 10小时前
  • 打赏
  • 举报
回复

确实,感觉用python 或者torch都非常慢,估计需要用c++/acl搞

2301_80744354 助教 01-18 15:25
  • 打赏
  • 举报
回复
感谢分享!👍🏻👍🏻

91

社区成员

发帖
与我相关
我的任务
社区描述
「智能机器人开发者大赛」官方平台,致力于为开发者和参赛选手提供赛事技术指导、行业标准解读及团队实战案例解析;聚焦智能机器人开发全栈技术闭环,助力开发者攻克技术瓶颈,促进软硬件集成、场景应用及商业化落地
机器人人工智能 高校
社区管理员
  • CSDN产品汪
  • Zachary_86
  • NO.2社区助手
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告

「智能机器人开发者大赛」官方平台,致力于为开发者和参赛选手提供赛事技术指导、行业标准解读及团队实战案例解析;聚焦智能机器人开发全栈技术闭环,助力开发者攻克技术瓶颈,促进软硬件集成、场景应用及商业化落地