概率和似然
已知一个分布的参数,就可以根据这个分布去推测产生各种情况的可能性,我们称之为概率
已知一个分布的各种可能的情况,就可以根据这些情况去推测分布的参数,我们称之为似然(似然度)。
似然函数
假设我们现在猜测这个参数为θ,那么评价我们猜的准不准就要计算它的似然度
似然度$L(θ|x)$在数值上等于给定参数θ后变量X的概率。
而这个公式我们称之为似然(度)函数。
极大似然估计(Maximum Likelihood)
一般我们要求得当似然度$L(θ|x)$最大时的$\theta$,这就是极大似然估计。
Maximum Log-Likelihood
由于每个点发生的概率都很小,乘积会变得极其小,不利于计算和观察,因此通常我们用 Maximum Log-Likelihood 来计算。
- 因为 Log 函数具备单调性,不会改变极值的位置
- 同时在 0-1 之间输入值很小的变化可以引起输出值相对较大的变动
作者的困惑
作者对这个概念理解不清晰的原因在于教科书上这个名字起得不好,应该叫似然度更加清晰一些。