【InternLM】书生·浦语大模型全链路开源体系实战营 第4课笔记

[缘起...即灭]

 XTuner微调LLM：1.8B、多模态

目录

 XTuner微调LLM：1.8B、多模态

 一、Finetune简介

 1.1 两种Finetune范式：

 1.2 数据链

二、XTuner

三、8GB显存玩转LLM

四、InternLM2 1.8B模型

五、多模态LLM

---

 一、Finetune简介

 1.1 两种Finetune范式：

 1.2 数据链

二、XTuner

XTuner 一个大语言模型&多模态模型微调工具箱。由 MMRazor 和 MMDeploy 联合开发。

• 🤓 傻瓜化： 以 配置文件 的形式封装了大部分微调场景，0基础的非专业人员也能一键开始微调。
• 🍃 轻量级： 对于 7B 参数量的LLM，微调所需的最小显存仅为 8GB ： 消费级显卡✅，colab✅

 

三、8GB显存玩转LLM

四、InternLM2 1.8B模型

五、多模态LLM