【极客技术】ColossalChat用完整RLHF技术克隆ChatGPT的开源解决方案

智慧地球（AI·Earth）社区 2023-03-29 22:12:33

【极客技术】ColossalChat用完整RLHF技术克隆ChatGPT的开源解决方案

...全文

122 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

以 ChatGPT、GPT4 为代表的 AI 应用和大模型火爆全球，被视为开启了新的科技工业革命和 AGI （通用人工智能）的新起点。不仅科技巨头间你追我赶，争相推出新品，许多学术界、工业界的 AI 大佬也纷纷投入投身相关创业浪潮。生成式 AI 正以“天”为单位，快速迭代，持续狂飙！然而，OpenAI 并未将其开源，它们背后的技术细节有哪些？如何快速跟进、追赶并参与到此轮技术浪潮中？如何降低 AI 大模型构建和应用的高昂成本？如何保护核心数据与知识产权不会因使用第三方大模型 API 外泄？作为当下最受欢迎的开源 AI 大模型解决方案，Colossal-AI 率先建立了包含监督数据集收集->监督微调->奖励模型训练->强化学习微调的完整 RLHF 流程，以 LLaMA 为基础预训练模型，推出 ColossalChat，是目前最接近 ChatGPT 原始技术方案的实用开源项目! 包含以下内容 1、Demo：可直接在线体验模型效果，无需注册或 waitinglist2、训练代码：开源完整 RLHF 训练代码，已开源至含 7B 和 13B 两种模型3、数据集：开源 104K 中、英双语数据

解读 ChatGPT 背后的技术重点：RLHF、IFT、CoT、红蓝对抗 - 知乎.pdf

ChatGPT 背后的RLHF 技术详解

ChatGPT 背后的“功臣”——RLHF 技术详解.pdf

解读 ChatGPT 背后的技术重点：RLHF、IFT、CoT、红蓝对抗.pdf

极客技术 | 前沿

3,467

社区成员

22

社区内容

发帖

与我相关

我的任务

媒体技术论坛（原bbs）

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章