OpenMMLab
书生-浦语大模型全链路开源体系(一)
墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网
我也要 关注 + 加入社区书生浦语大模型系列(开源)
模型发展: 专用模型->通用大模型(多任务, 多模态)
大语言模型
InternLM
InternLM-7B模型 全链条开源工具体系
书生-万卷
- 轻量级: InternLM-7B
- 中量级: InternLM-20B
- 重量级: InternLM-123B
InternLM-20B 大模型性能
能力: 综合考试 知识问答 阅读理解 推理 编程
从模型到应用:
智能客服 个人助手 行业应用
书生-浦语 全链条开源开放 体系
- 数据 书生-万卷 2TB 涵盖多种模态与任务
- 预训练 InternLM-train 并行训练
- 微调 XTuner 支持全参数微调 支持LoRA等低成本微调
- 部署 LMDeploy 全链条部署 性能领先 每秒生成2000+ tokens
- 评测 OpenCompass 全方面评测 性能可复现 80套评测集 40万道题目
- 应用 Lagent AgentLego 支持多种智能体, 支持代码解释器等多种工具
数据
书生-万卷
平台: OpenDataLab
预训练
InternLM-train 并行训练
微调
大语言模型的下游任务应用中, 增量续训和有监督微调是经常使用的两种方式
- 增量续训 让基座模型学习到一些新知识, 如某个垂类领域知识 训练数据-文章,书籍,代码等
- 有监督微调(全量, 部分) 让模型学会理解和遵循各种指令, 或者注入少量领域知识 训练数据-高质量对话, 问答数据
XTuner
评测
国内外评测体系的整体态势
OpenCompass
OpenCompass 开源评测平台架构
丰富模型支持
分布式高效评测
便携的数据集接口
敏捷的能力迭代
模型支持:
部署
LMDeploy
提供大模型在GPU上部署的全流程解决方案包括模型轻量化, 推理和服务
静态推理性能(固定batch, 输入/输出token数量)
动态推理性能(真实对话, 不定长的输入/输出)
智能体应用
LLM局限性:
- 最新信息和知识的获取
- 回复的可靠性
- 数学计算
- 工具使用和交互
轻量级智能体框架 Lagent
代码解数学题
零样本泛化: 多模态AI工具使用
工具集合 AgentLego
相关推荐
大模型工具链生态详解：微调、部署、监控全链路工具选型.md
本教程针对这一问题，提供了一套完整的解决方案，涵盖了从大模型微调、部署到监控的全链路工具选型和实战项目。教程的编写考虑到技术学习者的背景，无论是否具有基础代码经验，都能根据详细注释和操作步骤进行学习。
大模型幻觉问题解决方案：从数据、算法到评估体系全链路优化.md
该全链路解决方案通过一系列相互补充的技术和策略，覆盖了大模型应用前、中、后的每一个关键步骤，旨在解决大模型幻觉问题，并实现快速、高效、安全的企业级应用开发。
AI大模型全链路实战教程.zip
目录：课时01大模型课时02大模型理论基础课时03 Al大模型提示词工程深入实战课时04 OpenAI之嵌入式Embedding模型课时05 基于OpenAI的大模型开发与实战课时06基于大模型的智能
大模型成本优化实战：训练、推理与运维全链路成本控制方案.md
本文档详细介绍了大模型成本优化的实战方案，内容覆盖从大模型的训练、推理到运维的全链路过程。
大模型幻觉问题成因分析与全链路优化解决方案.md
首先，大模型的基础原理部分详细介绍了模型的工作机制，包括其如何通过Transformer架构处理自然语言，这一架构的核心在于自注意力机制，允许模型在处理输入时考虑到不同词语之间的关系。
