在Statlect上搜索概率和统计术语
统计列克特
指数 > 的基本原理 统计 > 最大 可能性-假设检验

似然比检验

通过 博士

似然比(LR)检验是 测试 假设 其中两个不同 最大似然 估计 比较参数以决定是否拒绝 参数限制。

建议您在完成本讲座之前,先熟悉一下 最大似然框架中的假设检验的基础知识(请参见 介绍性演讲题为 最大 可能性-假设检验)。

目录

零假设

似然比检验用于验证 零假设 那可以是 写在 形成:[eq1]哪里 $ heta _ {0} $ 是属于参数空间的未知参数 [eq2], 和 [eq3] 是向量值函数 ($ rleq p $)。

上面关于零假设的表述非常笼统,因为许多常见 参数限制可以以以下形式编写 [eq4] (请参见前面的介绍性演讲)。

似然比统计

似然比检验基于两个不同的ML估计 参数 $ heta _ {0} $.

一种估计称为 无限制估计 并由 [eq5], 从无约束最大似然的解中获得 问题[eq6]哪里 $ xi _ {n} $ 是观测数据的样本,并且 [eq7] 是似然函数。

另一种估计称为 限制估计 并由 [eq8], 从约束最大似然的解中获得 问题[eq9]哪里 [eq10]是 满足测试限制的一组参数。

测试统计量,称为似然比统计量, 是[eq11]哪里 n 是个 样本量.

假设条件

为了导出统计量的渐近性质 $ LR_ {n} $, 我们将假设:

检验统计量的渐近分布

根据以上假设,可以证明以下结果。

主张 如果原假设 [eq13] 是正确的,并且满足某些技术条件(请参见上文), 似然比统计 $ LR_ {n} $ 分布趋同 卡方分布$ r $ 自由程度。

证明

根据中值定理,二阶 扩展 [eq14] 可以写成 [eq15]哪里 [eq16] 是Hessian矩阵(二阶偏导数的矩阵),并且 [eq17] 是一个中间点(确切地说, p 中间点,每行对应一个黑森州)。因为渐变是 在不受限制的最大值处为零,我们有 那[eq18]和, 作为结果, [eq19]从而, 可以写似然比统计 如 [eq20]通过 可以在证明收敛的证明中找到的结果 分数测试 统计,我们有 那[eq21]哪里 [eq22] 是另一个中间点 那[eq23]哪里 $ J_ {g} $ 是的雅可比 $ g $$ lambda $ 是拉格朗日 乘数[eq24]注意 拉格朗日乘数的表达式包括第三中间 点 [eq25]. 通过将所有这些东西放在一起,我们 获得[eq26]哪里 我们有 定义的[eq27]如果 我们也 定义[eq28]的 可以编写测试统计信息 如 [eq29]哪里 我们使用了这样一个事实 $ V_ {1,n} $ 是对称的,我们有 定义的[eq30]

在原假设下 [eq31][eq32] 收敛概率$ heta _ {0} $. 结果, [eq33], [eq34][eq35] 收敛到 $ heta _ {0} $, 因为它们严格包含在 [eq36][eq37]. 此外, $ V_ {1,n} $$ V_ {2,n} $ 收敛到 V, 的渐近协方差矩阵 [eq38]. 因此,通过 连续映射 定理,我们有以下 结果[eq39]从而, 我们可以将似然比统计量写成一系列二次形式 [eq40]哪里[eq41][eq42]如 我们已经在关于 沃尔德测试, 这样的二次形式序列收敛于分布到卡方 随机变量 [eq43] 自由程度。

请注意,似然比统计信息与 Wald检验和分数检验仅取决于参数估计值,而不取决于 在它们的渐近协方差矩阵上如果后者可以是一个优势 很难估计。

考试

在似然比检验中,原假设被拒绝 如果[eq44]哪里 $ z $ 是预先指定的 临界值.

测试的大小 可 由其渐近近似 值[eq45]

哪里 $Fleft( z
ight) $ 是个 累积分布 功能 卡方随机变量具有 $ r $ 自由程度。

通过适当地选择 $ z $, 可以达到预先指定的尺寸,因为 如下:[eq46]

下一个示例说明了如何使用似然比统计量。

[eq47], 也就是说,参数空间是所有的集合 $3$尺寸 实向量。表示true参数的三个条目 $ heta _ {0} $ 通过 $ heta _ {0,1} $, $ heta _ {0,2} $$ heta _ {0,3} $. 要测试的限制 是[eq48]所以 那 [eq49] 是一个功能 [eq50] 定义的 通过[eq51]我们 有那个 $r=2$$ g $[eq52]它 有等级 $r=2$ 因为它的两行是线性独立的。假设我们已经获得了 约束估计 [eq53] 而且不受约束 [eq54] 而且我们知道对数似然的值对应于两者 估计:[eq55]这些 使用两个值来计算测试统计量的值: [eq56]根据 根据上面的排名计算,该统计数据具有卡方分布 与 $r=2$ 自由程度。让我们确定测试的大小 $ lpha = 10%$. 然后,临界值 $ z $[eq57]哪里 $Fleft( z
ight) $ 是具有以下项的卡方随机变量的分布函数: $2$ 自由度和 [eq58] 可以使用任何统计软件来计算(例如,在MATLAB中, command chi2inv(0.90,2))。 从而, 的 test statistic 是 低于临界 值[eq59]如 结果,原假设不能被拒绝。

如何引用

请引用为:

Taboga, Marco (2017). "似然比检验", 列克特ures on probability 的ory 和 mathematical 统计, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/fundamentals-of-statistics/likelihood-ratio-test.

这本书

该网站上提供的大多数学习材料现在都以传统教科书格式提供。