相信目前很多小伙伴对于信息增益都比较感兴趣，那么小搜今天在网上也是收集了一些与信息增益相关的信息来分享给大家，希望能够帮助到大家哦。

1、信息增益(Kullback–Leibler divergence)又叫做information divergence，relative entropy 或者KLIC。

2、 在概率论和信息论中，信息增益是非对称的，用以度量两种概率分布P和Q的差异。

3、信息增益描述了当使用Q进行编码时，再使用P进行编码的差异。

4、通常P代表样本或观察值的分布，也有可能是精确计算的理论分布。

5、Q代表一种理论，模型，描述或者对P的近似。

本文到此结束，希望对大家有所帮助。