分类
标签云
评论汇
每周精读
MBA智库资讯,汇聚中国主流的商业管理新闻
相对熵（Relative Entropy; KL散度; Kullback–Leibler divergence; KLD; 信息散度; 信息增益） 相对熵是指两个概率分布P和Q差别的非对称性的度量。 相对熵是用来 度量使用基于Q的编码来编码来自P的样本平均所需的额外的比特个数。典型情况下，P表示数据的真实分布，Q表示数据的理论分布，模型分布，或P的近似分布。