求在高通SA8295芯片上部署BAAI/bge-reranker-large模型

℡performer 2025-07-09 14:10:35

我想在高通SA8295芯片上部署一个RAG系统，现在需要部署BAAI/bge-reranker-large模型，有没有谁会这个，谢谢！

...全文

25 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

使用国内阿里云modelscope镜像部署bge-reranker-base模型的兼容openAI接口的web程序可用app.py启动，也可以打包镜像启动教程文章 https://tarzan.blog.csdn.net/article/details/138711273

BGE模型，全称为BAAI General Embedding模型，是由北京智源研究院研发的一系列通用语义向量模型。自2023年8月发布以来，BGE模型家族已经推出了多个版本，包括BGE v1.0、v1.5和多语言模型BGE-M3。这些模型在语义理解和跨语言映射方面取得了显著进展，为自然语言处理领域带来了新的突破。 BGE模型的特点包括：多语言性（Multi-Linguality）：BGE模型支持超过100种语言，能够处理不同语言之间的语义匹配任务，建立有效的跨语言语义联系。多功能性（Multi-Functionality）：BGE模型集成了稠密检索、稀疏检索、多向量检索等检索功能，可以一站式服务不同的语义检索场景。多粒度性（Multi-Granularity）：BGE模型可以处理不同粒度的输入文本，包括句子、段落、篇章和文档，最大输入长度可达8192 。

BAAI/bge-reranker-large的安装与使用教程 bge-reranker-large 项目地址: https://gitcode.com/hf_mirrors/ai-gitcode/bge-reranker-la...

选择适合的模型：BAAI/bge-reranker-large的比较 bge-reranker-large 项目地址: https://gitcode.com/hf_mirrors/ai-gitcode/bge-reranker...

模型名称：BAAI/bge-reranker-large的应用领域拓展 bge-reranker-large 项目地址: https://gitcode.com/hf_mirrors/ai-gitcode/bge-reranke...

高通开发者论坛

3,493

社区成员

5,805

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章