信息量、熵、相对熵、交叉熵介绍

关于交叉熵在 loss 函数中使用的理解

交叉熵（cross entropy）是深度学习中常用的一个概念，一般用来求目标与预测值之间的差距。以前做一些分类问题的时候，没有过多的注意，直接调用现成的库，用起来也比较方便。最近开始研究起对抗生成网络（GANs），用到了交叉熵，发现自己对交叉熵的理解有些模糊，不够深入。遂花了几天的时间从头梳理了一下相关知识点，才算透彻的理解了，特地记录下来，以便日后查阅。

信息论

交叉熵是信息论中的一个概念，要想了解交叉熵的本质，需要先从最基本的概念讲起。

1 信息量

首先是信息量。假设我们听到了两件事，分别如下：
事件 A：巴西队进入了 2018 世界杯决赛圈。
事件 B：中国队进入了 2018 世界杯决赛圈。
仅凭直觉来说，显而易见事件 B 的信息量比事件 A 的信息量要大。究其原因，是因为事件 A 发生的概率很大，事件 B 发生的概率很小。所以当越不可能的事件发生了，我们获取到的信息量就越大。越可能发生的事件发生了，我们获取到的信息量就越小。那么信息量应该和事件发生的概率有关。
假设X是一个离散型随机变量，其取值集合为\chi，概率分布函数p(x)=Pr(X=x),x\in \chi，则定义事件X=x_0的信息量为：

可见该函数符合我们对信息量的直觉

考虑另一个问题，对于某个事件，有n种可能性，每一种可能性都有一个概率p(x_i)
这样就可以计算出某一种可能性的信息量。举一个例子，假设你拿出了你的电脑，按下开关，会有三种可能性，下表列出了每一种可能的概率及其对应的信息量

注：文中的对数均为自然对数

我们现在有了信息量的定义，而熵用来表示所有信息量的期望，即：

其中 n 代表所有的 n 种可能性，所以上面的问题结果就是

然而有一类比较特殊的问题，比如投掷硬币只有两种可能，字朝上或花朝上。买彩票只有两种可能，中奖或不中奖。我们称之为 0-1 分布问题（二项分布的特例），对于这类问题，熵的计算方法可以简化为如下算式：

3 相对熵（KL 散度）

相对熵又称 KL 散度,如果我们对于同一个随机变量 x 有两个单独的概率分布 P(x) 和 Q(x)，我们可以使用 KL 散度（Kullback-Leibler (KL) divergence）来衡量这两个分布的差异
维基百科对相对熵的定义

In the context of machine learning, DKL(P‖Q) is often called the information gain achieved if P is used instead of Q.

即如果用 P 来描述目标问题，而不是用 Q 来描述目标问题，得到的信息增量。

在机器学习中，P 往往用来表示样本的真实分布，比如[1,0,0]表示当前样本属于第一类。Q 用来表示模型所预测的分布，比如[0.7,0.2,0.1]
直观的理解就是如果用 P 来描述样本，那么就非常完美。而用 Q 来描述样本，虽然可以大致描述，但是不是那么的完美，信息量不足，需要额外的一些“信息增量”才能达到和 P 一样完美的描述。如果我们的 Q 通过反复训练，也能完美的描述样本，那么就不再需要额外的“信息增量”，Q 等价于 P。

KL 散度的计算公式：

{KL}(p||q)=\sum_{i=1}^{n}p(x_i)log(\frac{p(x_i)}{q(x_i)}) \tag{3.1} $$ n为事件的所有可能性。 $D_{KL}$的值越小，表示q分布和p分布越接近 ## 4 交叉熵 对式3.1变形可以得到：

等式的前一部分恰巧就是p的熵，等式的后一部分，就是交叉熵： $$H(p,q)=-\sum_{i=1}^{n}p(x_i)log(q(x_i))

在机器学习中，我们需要评估 label 和 predicts 之间的差距，使用 KL 散度刚刚好，即D_{KL}(y||\hat{y})，由于 KL 散度中的前一部分-H(y)不变，故在优化过程中，只需要关注交叉熵就可以了。所以一般在机器学习中直接用用交叉熵做 loss，评估模型。

交叉熵为什么可以做为 loss 函数

从相对熵与交叉熵的公式可以看出
Ａ 与 Ｂ 的交叉熵　＝　Ａ 与 Ｂ 的 ＫＬ 散度　－　Ａ 的熵
当 Ａ 的熵一定，最小化交叉熵与最小化 ＫＬ 散度等价。

例如在逻辑回归中，我们实际上实在最小化模型的分布与训练数据的分布的 ＫＬ 散度，因为训练数据的分布也就是熵一定，所以我们可以通过最小化交叉熵来实现，因为交叉熵的形式比 ＫＬ 散度的形式简单。