【机器学习】信息熵和信息度量

[AI大视野]

一、说明

        信息熵是概率论在信息论的应用，它简洁完整，比统计方法更具有计算优势。在机器学习中经常用到信息熵概念，比如决策树、逻辑回归、EM算法等。本文初略介绍一个皮毛，更多细节等展开继续讨论。

【机器学习】信息熵和信息度量_无水先生的博客-CSDN博客