怎么量化一个特征在模型中的重要性？比如两个特征，一个占60，另一个占40

jio布斯 2021-06-23 14:25:49

怎么量化一个特征在模型中的重要性？比如两个特征，一个占60，另一个占40

...全文
2035 1 打赏 收藏 转发到动态 举报
AI 作业
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
weixin_38498942 2021-06-24
  • 打赏
  • 举报
 回复

算出了具体权重的，权重就是重要性排序。

没有算出具体权重的，可以把其他特征都去掉，只留下一个特征去用LR做训练、算训练集的AUC。每个特征都这样做一次，比较auc的大小排序，就能知道该特征的特征重要性排序。

[机器学习] 树模型(xgboost,lightgbm)特征重要性原理总结
在使用GBDT、RF、Xgboost等树类模型建模时，往往可以通过 feature_importance 来返回特征重要性，各模型输出特征重要性的原理与方法 一 计算特征重要性方法 首先，目前计算特征重要性计算方法主要有两个方面： 1.1 训练过程中计算 训练过程中通过记录特征的分裂总次数、总/平均信息增益来对特征重要性进行量化。例如实际工程中我们会用特征在整个GBDT、XgBoost里面......
树模型特征重要性计算方法总结
最近在复习特征重要性时候，考虑到我们在使用GBDT、RF、Xgboost等树类模型建模时，往往可以通过feature_importance 来返回特征重要性，下面收集整理了一下各模型输出特征重要性的原理与方法； 1. 计算特征重要性方法 首先，目前计算特征重要性计算方法主要有两个方面： 1.1 训练过程中计算 训练过程中通过记录特征的分裂总次数、总/平均信息增益来对特征重要性进行量化。例...
机器学习- 树模型特征重要性原理总结
在复习特征重要性时候，考虑到我们在使用GBDT ，RF，Xgboost 等树类模型建模时，往往可以通过feature_importance 来返回特征重要性，一下是各模型输出特征重要性的原理和方法。 1 计算特征重要性方法 1-1 训练过程中计算: 通过记录特征的分裂总次数，总/平均信息增益来对特征重要性进行量化，例如我们会用特征在整个GBDT，Xgboost 里面被使用的次数或者带来的总/...
模型量化
https://zhuanlan.zhihu.com/p/132561405 模型量化是一种将浮点计算转成低比特定点计算的技术，可以有效的降低模型计算强度、参数大小和内存消耗，但往往带来巨大的精度损失。尤其是在极低比特(<4bit)、二值网络(1bit)、甚至将梯度进行量化时，带来的精度挑战更大。 Part 1 量化综述 什么是模型量化？为什么要进行模型量化？ 模型量化是由模型、量化两个词组成。我们要准确理解模型量化，要看这两个词分别是什么意思。 在计算机视觉、深度学习的语境下，模型特指卷积神经网络，
模型量化详解
目录1、模型量化是什么？2、为什么需要做模型量化？3、模型量化动机是什么？4、模型量化分类4.1 线性量化4.1.1 对称量化4.1.2 非对称量化4.2 逐层量化、逐组量化和逐通道量化4.3 在线量化和离线量化4.4 比特量化4.5 权重量化和权重激活量化5、模型量化原理详解5.1 原理详解5.2 具体案例6、模型量化实现步骤7、Pytorch模型量化详解7.1 简介7.2 pytorch量化工...
高通开发者论坛

2,851

社区成员

5,754

社区内容

发帖
与我相关
我的任务
社区描述
本论坛以AI、WoS 、XR、IoT、Auto、生成式AI等核心板块组成，为开发者提供便捷及高效的学习和交流平台。 高通开发者专区主页：https://qualcomm.csdn.net/
人工智能物联网机器学习 技术论坛（原bbs） 北京·东城区
社区管理员
  • csdnsqst0050
  • chipseeker
加入社区
  • 近7日
  • 近30日
  • 至今

加载中

查看更多榜单
社区公告
暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章