在Statlect上搜索概率和统计术语
统计列克特
指数 > 词汇表

对数似然

通过 博士

顾名思义,对数似然是对数似然的自然对数。 可能性。

反过来,给定一个样本和一个 参数 家庭 的分布(即,一组由 参数)可能已经产生了样本,似然性是一个函数 与每个参数相关的概率(或概率密度) 观察给定的样本。

目录

定义

需要以下元素来严格定义对数似然 功能:

给定所有这些元素,对数似然函数就是 [eq7] 定义的 通过[eq8]

典型示例是组成样本的对数似然函数 的 独立且相同 分散式 正常 分配.

在这种情况下,样本 $ xi $ 是一个 向量[eq9]谁的 参赛作品 [eq10] 是从正态分布绘制的。的概率密度函数 通用抽奖 $ x_ {i} $[eq11]哪里 亩sigma ^ 2 是正态分布的参数(均值和方差)。

使用上一节中使用的符号,参数向量 是[eq12]的 考虑的参数族是所有正态分布的集合 (可以通过更改参数来获得 亩sigma ^ 2)。

为了强调这一事实,概率密度取决于两个 参数,我们 写[eq13]

样本的联合概率密度 $ xi $[eq14]因为 一组自变量的联合密度等于 其 边缘 密度 (请参阅有关 独立 随机变量)。

似然函数 是[eq15]

对数似然函数是

[eq16]

对数似然的使用方式

对数似然函数通常用于推导 最大似然 估计量 参数的 $ heta $. 的 估计量 $ widehat {heta} $ 由 解决[eq17]那 是,通过找到参数 $ widehat {heta} $ 最大化观察样本的对数似然 $ xi $. 这与最大化似然函数相同 [eq18] 因为自然对数是严格增加的函数。

为什么记录日志

有人可能想知道为什么采用似然函数的对数。有 有几个很好的理由。要了解它们,请假设样本是组成的 独立观察结果(如上例所示)。然后,对数 将密度乘积转换为总和。这非常方便,因为:

更多例子

有关如何推导对数似然函数的更多示例,请参见 讲座:

更多细节

对数似然及其属性将进行更详细的讨论 在关于 最大似然 估算.

继续阅读词汇表

上一页条目: 联合概率质量函数

下一页条目: 损失函数

如何引用

请引用为:

Taboga, Marco (2017). "对数似然", 列克特ures on probability theory 和 mathematical statistics, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/glossary/log-likelihood.

这本书

该网站上提供的大多数学习材料现在都以传统教科书格式提供。