条件熵

公式

$H(X\mid Y)=-{\sum }_{j=1}^{n}p(y_j)H(X|y_j)=-{\sum }_{j=1}^{n}p(y_j){\sum }_{i=1}^{k}p(x_i|y_j){\log }_{2}p(x_i|y_j)$ child::条件事件

实例

原类有20/60为A类，40/60为B类 按条件D将原类60份分成15/60的甲类，45/60的乙类

• 其中甲类中有7/15的A类，8/15的B类，即p（A|甲）和p(B|甲)
• 乙类中有35/45的A类，10/45的B类

则原类的甲乙类条件熵为$H(原|甲乙)=$ 15/60×H(原|甲)+45/60×H(原|乙)