机器学习中softmax函数到底干嘛用的？比如LR中和神经网络中？

marry_universe 2021-06-23 14:18:00

机器学习中softmax函数到底干嘛用的？比如LR中和神经网络中？

...全文
1859 1 打赏 收藏 转发到动态 举报
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
weixin_38498942 2021-06-24
  • 打赏
  • 举报
 回复

首先你要知道softmax函数是干嘛的。softmax是一个可以把连续的数输出成一个在0到1之间的数。它的输出，表征了不同类别间的相对概率。
比如你的网络输出是[-3，2，-1，0]，但你想要的值域是0到1，用softmax处理后，输出就变成了[0.0057,0.8390,0.0418,0.1135]。是不是就变成你想要的结果了。
当然，softmax函数也可以被当做激活函数，不止用在输出的处理。

深入理解与实践：Softmax函数在机器学习中的应用
本文深入探讨了Softmax函数的概念、原理及其在多分类任务、注意力机制和强化学习等领域的实际应用。从基础的数学定义出发，结合手写实现和PyTorch代码，详细说明了Softmax与交叉熵损失的结合及其数值稳定性优化方法。此外，通过一个文本分类的实战案例，展示了Softmax在构建简单分类器中的重要作用。最后，总结了Softmax的优化技巧和实际项目中的使用经验，为开发者提供理论与实践的全面指导。
一文彻底搞懂机器学习 - Softmax回归（Softmax Regression）
*******Softmax回归（Softmax Regression）****在Python中实现Softmax函数并进行可视化，可以通过以下步骤完成。****– 对数函数的魅力************Python代码实现了交叉熵损失函数的计算，并通过可视化展示了对于一个三分类问题中，当真实标签为第0类时，********PyTorch框架如何实现Softmax回归模型对Iris数据集进行三分类任务？
Softmax 和交叉熵损失函数
目录Softmax 函数交叉熵损失函数学习率衰减策略 Softmax 函数 Softmax 函数函数是机器学习和深度学习中相当常用到的函数，它的公式如下: softmax(S)=esk∑jesj softmax(S)=\frac { e ^ { s _ { k } } } { \sum _ { j } e ^ { s _ { j } } } softmax(S)=∑j​esj​esk​​ 其中 ???????? 表示的是输入到 Softmax 函数的数据。Softmax 函数具体的作用是将输入标准化到
机器学习 [logistic函数和softmax函数]
简单总结一下机器学习最常见的两个函数，一个是logistic函数，另一个是softmax函数，若有不足之处，希望大家可以帮忙指正。本文首先分别介绍logistic函数和softmax函数的定义和应用，然后针对两者的联系和区别进行了总结 1. logistic函数 1.1 logistic函数定义 　　引用wiki百科的定义： 　　A logistic function or logist...
Softmax与交叉熵：深度学习中的黄金搭档
Softmax函数是一种将实数向量转换为概率分布的函数。在多类分类问题中，神经网络的最后一层通常会使用Softmax激活函数，将输出转换为概率分布，使得每个类别都有一个介于0和1之间的预测概率，并且所有类别的概率之和为1。对于一个包含K个元素的输入向量( z )，Softmax函数定义如下：其中()是类别索引，()是类别总数。这个函数确保了输出的每个元素都是非负的，并且所有元素的和为1，符合概率分布的性质。交叉熵损失函数是衡量两个概率分布之间差异的一种方法。
Qualcomm 开发者论坛

1,482

社区成员

5,579

社区内容

发帖
与我相关
我的任务
社区描述
本论坛以AI、WoS 、XR、IoT、Auto、生成式AI等核心板块组成，为开发者提供便捷及高效的学习和交流平台。 高通开发者专区主页：https://qualcomm.csdn.net/
人工智能物联网机器学习 技术论坛（原bbs） 北京·东城区
社区管理员
  • csdnsqst0050
  • chipseeker
加入社区
  • 近7日
  • 近30日
  • 至今

加载中

查看更多榜单
社区公告
暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章