[语言模型] ChatRWKV

幻灰龙 2023-02-14 10:01:52

ChatRWKV,类似ChatGPT 的开源工具,基于RWKV (100% RNN) 语言模型。RWKV 是作者魔改RNN而来,自我介绍为看齐transformer性能的纯RNN,梯度可以无限走,也能并行化,拥有RNN和transformer的所有优点。
地址:g-i-t-hub.com/BlinkDL/ChatRWKV
具体可参考作者在知乎的介绍:http://t.cn/A69sI9IJ

...全文
352 回复 打赏 收藏 转发到动态 举报
写回复
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复

681

社区成员

发帖
与我相关
我的任务
社区描述
自然语言处理实战,讨论算法、模型、服务、应用。请具体描述问题,提出问题。
算法推荐算法人工智能 个人社区
社区管理员
  • community_282
  • SoftwareTeacher
  • Alexxinlu
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告

自然语言处理实战。

试试用AI创作助手写篇文章吧