为什么不用one-hot向量？

weixin_28741773 2022-01-13 11:19:14

为什么不用one-hot向量？

...全文

1910 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

weixin_38498942 2022-01-13

打赏
举报

回复

1、one-hot向量无法表达不同词之间的相似度，任何一对one-hot向量的余弦距离为零。
2、随着词典的增大，其向量维度也会一直不断变大。

深度学习word2vec博文的文档，整理了各位的意见，把错误的地方修改过了。

one-hot向量这个向量的表示为一项属性的特征向量，也就是同一时间只有一个激活点（不为0），这个向量只有一个特征是不为0的，其他都是0。特别稀疏，这个稀疏矩阵用来组成一个多特征的训练集样本，相当于样本是一个二维矩阵，行代表特征数，列表示为特征数的one-hot向量。表示 one-hot向量表示为ti={0,0,0,...,1,...0}t_i=\{0,0,0,...,1,...0\}ti=...

One-Hot 向量是一种表示离散类别的向量表示方法，在许多机器学习和深度学习任务中被广泛使用，特别是在分类任务中。它的基本思想是将每个类别表示为一个向量，向量的长度等于类别总数，其中只有一个元素为 1，其余元素为 0。这个 1 所在的位置对应于该类别的索引，表示该类别的“热”状态，而其他位置则为 0，表示“冷”状态。One-Hot 向量是一种表示离散类别的编码方式，将每个类别表示为一个向量，其中只有一个元素为 1，其他元素为 0。在分类任务。

one-hot向量与word2vec one-hot向量 1.1 one-hot编码　　什么是one-hot编码？one-hot编码，又称独热编码、一位有效编码。其方法是使用N位状态寄存器来对N个状态进行编码，每个状态都有它独立的寄存器位，并且在任意时候，其中只有一位有效。举个例子，假设我们有四个样本（行），每个样本有三个特征（列），如图：　　　　上图中我们已经对每个特征进行了...

one-hot向量定义 one-hot向量为有且只有一个元素为1，其余元素都为0的向量. one-hot向量是在数字电路中的一种状态编码，指对任意给定的状态，状态寄存器中只有1位为1，其余位都为0. ——《神经网络与深度学习》邱锡鹏以此定义看，one-hot向量是一个极其稀疏的向量，一个one-hot向量类似于： α= [0,0,0,0,....,0,1,0,...0] 编码方式对比 binary Gray one-hot one-cold 000 000..

高通开发者论坛

2,852

社区成员

5,758

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章