连续随机变量的相对熵和互信息

§6.2连续随机变量的相对熵和互信息 两个分布密度为的相对熵定义为 设有联合分布密度和边际分布密度，定义的互信息为 互信息与可微熵，条件熵有以下关