一段从神经元到GPT大模型的AI之旅

鞋匠 2024-06-18 22:59:45

《鞋匠的AI之旅》- 总章【一段从神经元到GPT的AI之旅】

...全文

502 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

街边擦鞋的鞋匠打算记录下自己的修行路，那是一段从神经元到GPT的AI旅程。每当一双落满灰尘的皮鞋伸到眼前，他总能娴熟地擦拭干净。能拂去一些尘埃，不论是为自己还是他人，他总能感到一丝慰藉。浮于脑际的那句“一念色形，一念色空，浮念不息，修行不止”指引着他躬身向前。本文是记录的是鞋匠的旅行计划，包括最简单的人工神经网络，梯度与反向传播算法，词嵌入，自注意力，Transformer等。

明敏发自凹非寺量子位 | 公众号 QbitAI没想到，打开AI黑盒这件事，可能还要靠AI自己来实现了。OpenAI的最新研究来了一波大胆尝试：让GPT-4去解释GPT-2的行为模式。结果显示，超过1000个神经元的解释得分在0.8以上——也就是说GPT-4能理解这些神经元。要知道，“AI黑箱难题”长期以来是一个热议话题，尤其是大语言模型领域，人类对其内部工作原理的理解还非常有限，这种“不透明化...

大模型，通常指的是在人工智能领域中的大型预训练模型。你可以把它们想象成非常聪明的大脑，这些大脑通过阅读大量的文本、图片、声音等信息，学习到了世界的知识。这些大脑（模型）非常大，有的甚至有几千亿个参数，这些参数就像是大脑中的神经元，它们通过复杂的计算来理解和生成语言、图片等。举个例子，你可能听说过GPT-3，它就是一个非常著名的大模型。GPT-3可以通过理解你提出的问题，然后给出回答，或者根据你给它的提示，生成一篇文章、一个故事，甚至是一段代码。

GPT3问世已经半年之久了，GPT3模型在刚刚问世之前一段不可思议，超出预期，可后期却有点后劲无力了，被测出各种badcase，今天一起吃瓜看看吧！喧嚣 GPT-3 是著名人工智能科研公司 OpenAI 开发的文字生成 (text generation) 人工智能，相关论文今年5月份已经发表，当时就以天文数字级别的1,750亿参数量引发轰动。7月份时候GPT3提供了对商业公司、学校和个人可以使用的OpenAI api供研究者自行调用，自此研究者做了五花八门的应用，名噪一时。随便看一个GPT3常识推理的

大模型，通常指的是在人工智能领域中的大型预训练模型。你可以把它们想象成非常聪明的大脑，这些大脑通过阅读大量的文本、图片、声音等信息，学习到了世界的知识。这些大脑（模型）非常大，有的甚至有几千亿个参数，这些参数就像是大脑中的神经元，它们通过复杂的计算来理解和生成语言、图片等。举个例子，你可能听说过GPT-3，它就是一个非常著名的大模型。GPT-3可以通过理解你提出的问题，然后给出回答，或者根据你给它的提示，生成一篇文章、一个故事，甚至是一段代码。

ChatGPT AIGC研讨社

30,914

社区成员

110

社区内容

发帖

与我相关

我的任务

人工智能AI作画chatgpt 个人社区上海·徐汇区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章