社区
一个处女座的程序猿【问答社区】
Algorithm
帖子详情
【LongChain-03】在本地运行LLM的另一些案例
无水先生
人工智能领域优质创作者
博客专家认证
2024-02-06 09:47:58
【LongChain-03】在本地运行LLM的另一些案例-CSDN博客
...全文
326
回复
打赏
收藏
【LongChain-03】在本地运行LLM的另一些案例
【LongChain-03】在本地运行LLM的另一些案例-CSDN博客
复制链接
扫一扫
分享
转发到动态
举报
AI
作业
写回复
配置赞助广告
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
lang
chai
n
运行
本地
llm
无论是聊天机器人、生成式问答系统， 还是内容摘要工具，Lang
Chai
n 都能通过灵活串联多个模块的组件，使开发者能够充分发挥
LLM
的强大能力，打造出卓越的应用程序。解释下lang
chai
n中各模块作用前面文章讲了如何...
Lang
Chai
n-Chatchat学习资料-Windows开发部署（代码分享）
如果启动在线的API服务（如 OPENAI 的 API 接口），则无需启动
LLM
服务，如需使用开源模型进行本地部署，需首先启动
LLM
服务，参照项目部署手册，
LLM
服务启动方式有三种，我们只选择其中之一即可，这里采用的是。...
基于Lang
Chai
n-Chatchat实现的本地知识库的问答应用-快速上手（检索增强生成(RAG)大模型）
一种利用lang
chai
n思想实现的基于本地知识库的问答应用，目标期望建立一套对中文场景与开源模型支持友好、可离线
运行
的知识库问答解决方案。受的项目和创建的启发，建立了全流程可使用开源模型实现的本地知识库问答...
【大模型项目】Win11 部署 Lang
chai
n-Chatchat
llm
_model 里指定了 chatglm2-6b-int4 模型的路径，需要的话可以自己修改模型路径） 然后
运行
python startup.py -a 可以看到我们已经是 cuda 的版本了 随便试试… 速度比 cpu 快了很多… 原来 智多星 是 李逵… ...
一个处女座的程序猿【问答社区】
642,602
社区成员
1,585
社区内容
发帖
与我相关
我的任务
一个处女座的程序猿【问答社区】
本社区主要是面向互联网IT人员，主要涉及领域包括人工智能(数据科学、计算机视觉、自然语言处理等)、区块链等前沿技术。社区人员均可提出编程中遇到的疑难杂症、程序bug等等问题，博主看到后会及时回答！
复制链接
扫一扫
分享
社区描述
本社区主要是面向互联网IT人员，主要涉及领域包括人工智能(数据科学、计算机视觉、自然语言处理等)、区块链等前沿技术。社区人员均可提出编程中遇到的疑难杂症、程序bug等等问题，博主看到后会及时回答！
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章
发帖
与我相关
我的任务
分享
