thinking空 2014-10-21 07:04 采纳率: 0%
浏览 4243

机器学习中关于互信息和信息增益的关系

最近看 数学之美 上面 互信息 的公式是
I(X;Y)=H(X)-H(X|Y)
又看到 统计学习方法 上有一个 信息增益 的公式
G(D,A)=H(D)-H(D|A)
这不是一样吗？难道互信息就是信息增益？
还是说G(D,A)里面的这个D指的是系统总的熵？而互信息是两个变量的关系？
想不明白，大神请明示。

  • 写回答

1条回答

  • lvapple402 2016-04-26 12:49
    关注

    在决策树里面那个信息增益就是互信息

    评论

报告相同问题？

悬赏问题

  • ¥15 fluent的在模拟压强时使用希望得到一些建议
  • ¥15 STM32驱动继电器
  • ¥15 Windows server update services
  • ¥15 关于#c语言#的问题：我现在在做一个墨水屏设计，2.9英寸的小屏怎么换4.2英寸大屏
  • ¥15 模糊pid与pid仿真结果几乎一样
  • ¥15 java的GUI的运用
  • ¥15 Web.config连不上数据库
  • ¥15 我想付费需要AKM公司DSP开发资料及相关开发。
  • ¥15 怎么配置广告联盟瀑布流
  • ¥15 Rstudio 保存代码闪退