信息增益和信息熵

- 信息增益定义 - 信息增益（information gain）是指期望信息或者信息熵（1）的有效减少量（通常用“字节”衡量），根据它能够确定在什么样的层次上选择什么样