向量&向量化

在下uptown 2025-03-20 13:42:07

课时名称	课时知识点
向量&向量化	本节主要讲述什么是向量、什么是向量库、ElasticSearch搭建

...全文

31 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

我的博客上有详细解说这个算法的实现，用java代码实现，以及每个公式的解说。网址：http://blog.csdn.net/techq/archive/2011/02/01/6171688.aspx

向量化是一切大模型技术的基础，大模型中的一切都是向量。在之前的文章曾不止一次的讲过向量，向量作为大模型的基础数据格式，其重要性不言而喻；但大部分人对向量还是没有一个深刻的认识。所以，今天我们就来讨论一个问题，那就是向量化，大模型的入口。‍‍‍‍向量化向量的概念这里就不解释了，有问题的可以看之前的文章，或者自己去找一下向量，矩阵的内容看看。先来讨论第一个问题，为什么要向量化？‍‍‍‍‍‍‍原因在于计算机无法直接处理非数值性计算，所以的计算都需要转换成数值运算才行；

1.词集模型：one-hot编码向量化文本（统计各词在文本中是否出现） 2.词袋模型：文档中出现的词对应的one-hot向量相加（统计各词在文本中出现次数，在词集模型的基础上。） 3.词袋模型+IDF：TFIDF向量化文本（词袋模型+IDF值，考虑了词的重要性） 4.N-gram模型：考虑了词的顺序 5.word2vec模型：使用文章中所有词的平均词向量作为文章的向量 1到5的出现是...

本篇文章给大家介绍向量化。向量化对于人工智能编程是非常重要的。因为要训练一个智能模型需要非常多的数据。也就是说计算量很大，需要很长的计算时间，向量化可以大大提升计算速度（可节约高达300倍时间哦）。说向量化之前，要先给大家介绍几个必须知道的概念。第一：矩阵。矩阵是指由多行多列元素组成的一个集合。一个mn的矩阵就有m行n列个元素。下图就是一个23的矩阵。第二：向量。如果一个矩阵只有一列，那么这就是一个列向量。下图就是一个列向量。如果只有一行，那么就是行向量。

随着bert动态向量的出现，已经可以直接将文本输入到bert中进行编码，得到句子向量表示，但这种方法无法有效建模长文本，也有直接使用预训练词向量进行向量加和得到向量表示。实际上，我们还有其他无监督的向量化表示方法，例如，上篇文章中介绍的lda模型，也有而作为自然语言处理的从业者，熟悉向量化工作十分必要，当前sklearn和gensim提供了一个十分友好的向量化方法，本文主要根据实际经验，对其中用到的一些向量化工具进行介绍，供大家一起思考。

李晓飞的课程社区_NO_1

1

社区成员

11

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章