avatar

Catalog
似然函数和极大似然估计

概率和似然

已知一个分布的参数,就可以根据这个分布去推测产生各种情况的可能性,我们称之为概率

已知一个分布的各种可能的情况,就可以根据这些情况去推测分布的参数,我们称之为似然(似然度)


似然函数

假设我们现在猜测这个参数为θ,那么评价我们猜的准不准就要计算它的似然度

似然度$L(θ|x)$在数值上等于给定参数θ后变量X的概率。

而这个公式我们称之为似然(度)函数。


极大似然估计(Maximum Likelihood)

一般我们要求得当似然度$L(θ|x)$最大时的$\theta$,这就是极大似然估计。


Maximum Log-Likelihood

由于每个点发生的概率都很小,乘积会变得极其小,不利于计算和观察,因此通常我们用 Maximum Log-Likelihood 来计算。

  • 因为 Log 函数具备单调性,不会改变极值的位置
  • 同时在 0-1 之间输入值很小的变化可以引起输出值相对较大的变动

作者的困惑

作者对这个概念理解不清晰的原因在于教科书上这个名字起得不好,应该叫似然度更加清晰一些。

Author: realLiuSir
Link: http://yoursite.com/2020/02/24/%E4%BC%BC%E7%84%B6%E5%87%BD%E6%95%B0%E5%92%8C%E6%9E%81%E5%A4%A7%E4%BC%BC%E7%84%B6%E4%BC%B0%E8%AE%A1/
Copyright Notice: All articles in this blog are licensed under CC BY-NC-SA 4.0 unless stating additionally.
Donate
  • 微信
    微信
  • 支付寶
    支付寶