为何下载用于导出的Qwen2.5_7B的模型context_length只有4096
社区首页 (3650)

请编写您的帖子内容
社区频道(17)
显示侧栏
卡片版式
全部
AI 人工智能
生成式 AI
AI Edge Box
AI PC
IoT 物联网
XR/VR/AR/MR
Gaming 游戏
Auto 汽车
AI 大赛
博文收录
开发者中文专区
博客
活动
资讯
视频
硬件开发案例
最新发布
最新回复
标题
阅读量
内容评分
精选

23
评分
1
为何下载用于导出的Qwen2.5_7B的模型context_length只有4096
https://qaihub-public-assets.s3.us-west-2.amazonaws.com/qai-hub-models/models/qwen2_5_7b_instruct/v2/qwen2_5_7b_instruct.zip
复制链接 扫一扫
分享
AI 大赛

14
评分
1
多传感器 IoT 设备上,AI 推理和数据处理是怎么配合的?
多传感器 IoT 设备上,AI 推理和数据处理是怎么配合的?
复制链接 扫一扫
分享
IoT 物联网

18
评分
1
用高通 IoT 平台做视觉类 AI 应用时,性能瓶颈一般出在哪?
用高通 IoT 平台做视觉类 AI 应用时,性能瓶颈一般出在哪?
复制链接 扫一扫
分享
IoT 物联网

15
评分
1
在 IoT 项目中,什么情况下更适合直接在终端跑 AI?
在 IoT 项目中,什么情况下更适合直接在终端跑 AI?
复制链接 扫一扫
分享
IoT 物联网

17
评分
1
高通 SoC 里的异构计算在实际 AI 项目中真的有明显收益吗?
高通 SoC 里的异构计算在实际 AI 项目中真的有明显收益吗?
复制链接 扫一扫
分享
AI 人工智能

19
评分
1
在 Android 上用高通平台部署 AI 模型,一般从哪些框架开始最省事?
在 Android 上用高通平台部署 AI 模型,一般从哪些框架开始最省事?
复制链接 扫一扫
分享
AI 人工智能

19
评分
2
在终端侧跑 AI 推理时,高通是怎么在性能和功耗之间取舍的?
在终端侧跑 AI 推理时,高通是怎么在性能和功耗之间取舍的?
复制链接 扫一扫
分享
AI 人工智能

53
评分
1
扫一扫
分享
AI 大赛

41
评分
1
扫一扫
分享
AI 大赛

74
评分
1
骁龙AIPC使用6个问题
问题1.Python架构兼容性:是否支持 x64 Python 在 ARM64 设备上运行?还是必须使用 ARM64 原生 Python? - ARM64 Python (`ARM64`) + win_amd64 wheel → 失败:"not a
复制链接 扫一扫
分享
AI 大赛

92
评分
5
量化sdxl模型时,QAIRT2.42使用qairt-quantizer命令无法识别
1.Qualcomm AI Engine Direct SDK 版本: 2.42.0.251225 2.主机操作系统: Windows 11 3.构建工具链版本: MSVC19.50.35721 cmake version 4.1.1-msvc1
复制链接 扫一扫
分享
AI 大赛

29
评分
1
可以直接使用第三方推理引擎吗?llama.cpp 或者nexa
可以直接使用第三方推理引擎吗?llama.cpp 或者nexa 看这里,有很多支持高通NPU的模型 https://sdk.nexa.ai/model?acceleration=Qualcomm
复制链接 扫一扫
分享
AI 大赛

39
评分
回复
我建议官方直接导出常用的模型啊
在huggingface 上开一个空间,专门负责模型导出到 qnn 支持的格式,导出模型的环境打包成docker镜像 https://github.com/quic/ai-hub-apps/tree/main/tutorials/llm_on_gen
复制链接 扫一扫
分享
AI 大赛

34
评分
1
找不到 c++ 扩展
python 3.12.10 , Snapdragon(R) X Elite - X1E78100 - Qualcomm(R) Oryon(TM) CPU 3.42 GHz , win11 24H2
复制链接 扫一扫
分享
AI 大赛

44
评分
1
AI骁龙大赛模型转换指令提问
模型优化指令 [例如:qnn-context-binary-generator --model libmodel.so --backend libQnnHtp.so --output_dir out_bin --binary_file model -
复制链接 扫一扫
分享
AI 大赛

79
评分
1
扫一扫
分享
AI 大赛

23
评分
回复
拆解近千份方案,交出一份「落地」指南——2025 高通边缘智能创新应用大赛后记
2025 高通边缘智能创新应用大赛汇聚了近千份创新方案,在开发者社群的密集讨论与代码实践中,涌现出一批真正响应产业需求的优秀作品(获奖名单见文末)。透过这些作品,我们试图梳理出一份属于开发者的项目落地实践指南。
复制链接 扫一扫
分享
AI Edge Box

40
评分
3
PrepareLib isn't loaded!
python 3.12.10 , Snapdragon(R) X Elite - X1E78100 - Qualcomm(R) Oryon(TM) CPU 3.42 GHz , win11 24H2
复制链接 扫一扫
分享
AI 大赛

40
评分
1
未找到可用的TTS模型
在https://aihub.qualcomm.com/models 上头未找到可用的TTS模型,如果需要引入TTS功能应该如何操作?
复制链接 扫一扫
分享
AI 大赛
为您搜索到以下结果:
6,690
社区成员
6,110
社区内容
发帖
与我相关
我的任务
高通开发者论坛
本论坛以AI、WoS 、XR、IoT、Auto、生成式AI等核心板块组成,为开发者提供便捷及高效的学习和交流平台。
高通开发者专区主页:https://qualcomm.csdn.net/
复制链接 扫一扫
分享确定
社区描述
本论坛以AI、WoS 、XR、IoT、Auto、生成式AI等核心板块组成,为开发者提供便捷及高效的学习和交流平台。
高通开发者专区主页:https://qualcomm.csdn.net/ 人工智能物联网机器学习 技术论坛(原bbs) 北京·东城区
加入社区
获取链接或二维码
- 近7日
- 近30日
- 至今
加载中
社区公告
暂无公告
