社区
一个处女座的程序猿【问答社区】
Algorithm
帖子详情
【LongChain-03】在本地运行LLM的另一些案例
无水先生
人工智能领域优质创作者
博客专家认证
2024-02-06 09:47:58
【LongChain-03】在本地运行LLM的另一些案例-CSDN博客
...全文
307
回复
打赏
收藏
【LongChain-03】在本地运行LLM的另一些案例
【LongChain-03】在本地运行LLM的另一些案例-CSDN博客
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
LangChain-Chatchat学习资料-Windows开发部署(代码分享)
如果启动在线的API服务(如 OPENAI 的 API 接口),则无需启动
LLM
服务,如需使用开源模型进行本地部署,需首先启动
LLM
服务,参照项目部署手册,
LLM
服务启动方式有三种,我们只选择其中之一即可,这里采用的是。...
【大模型实践】使用 Langchain-Chatchat 进行本地部署的完整指南
Langchain-Chatchat 是一个基于 ChatGLM 大语言模型与 Langchain 应用框架实现,开源、可离线部署的检索增强生成 (RAG) 大模型的本地知识库问答应用项目。
【大模型项目】Win11 部署 Langchain-Chatchat
llm
_model 里指定了 chatglm2-6b-int4 模型的路径,需要的话可以自己修改模型路径) 然后
运行
python startup.py -a 可以看到我们已经是 cuda 的版本了 随便试试… 速度比 cpu 快了很多… 原来 智多星 是 李逵… ...
Langchain-Chatchat 搭建知识库教程,老奶奶都能看懂的教程
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得...
一个处女座的程序猿【问答社区】
642,597
社区成员
1,339
社区内容
发帖
与我相关
我的任务
一个处女座的程序猿【问答社区】
本社区主要是面向互联网IT人员,主要涉及领域包括人工智能(数据科学、计算机视觉、自然语言处理等)、区块链等前沿技术。社区人员均可提出编程中遇到的疑难杂症、程序bug等等问题,博主看到后会及时回答!
复制链接
扫一扫
分享
社区描述
本社区主要是面向互联网IT人员,主要涉及领域包括人工智能(数据科学、计算机视觉、自然语言处理等)、区块链等前沿技术。社区人员均可提出编程中遇到的疑难杂症、程序bug等等问题,博主看到后会及时回答!
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章