最大可能性-假设检验

通过马可·塔波加（Marco Taboga）博士

本讲座讨论如何执行测试假设根据由最大似然.

测试框架
三种流行的测试
假设条件
正在测试的限制示例
沃尔德测试
分数测试
似然比检验

测试框架

我们将假设一个未知参数 $heta _ {0}$ 通过最大似然法估算出该参数属于到参数空间 , 并且我们要测试空值假设哪里 $的ta _ {R}$ 是...的适当子集 , 即

三种流行的测试

有三种流行的方法可以进行这种测试限制：

沃尔德测试。估算器的 $heta _ {0}$ 通过最大化整个参数空间上的对数似然来获得 :哪里是似然函数，并且 $xi _ {n}$ 是样本。随后，测试统计通过测量多远来构造来自满足零假设。
分数测试。估算器的 $heta _ {0}$ 通过最大化限制参数的对数似然来获得空间 $的ta _ {R}$ :后来，通过比较的导数向量构造检验统计量对数似然（所谓的得分）及其在原假设下的期望值。
似然比检验。该测试基于两个不同的的估计量 $heta _ {0}$ . 一个，用 , 通过最大化整个参数空间上的对数似然来获得 , 就像在Wald测试中一样。另一个，用 , 通过最大化限制参数的对数似然来获得空间 $的ta _ {R}$ , 如分数测试。最后，通过比较构建测试统计量的对数似然到 .

因此，用于执行测试的参数估计是这些测试之间存在哪些差异： Wald测试，这是分数测试的受限估计，并且两个估计都似然比检验。

以下各节将涵盖这些测试的主要方面，并将请读者阅读其他包含更详细说明的部分。

假设条件

在本讲座的其余部分，将假定样本 $xi _ {n}$ 是来自 IID 顺序并且对数似然函数满足所有条件在以前的讲座中使用（请参阅最大可能性）得出最大值的渐近分布似然估计。

还假定可以写出要测试的限制如哪里是向量值函数， , 的所有条目就其论点而言是持续可区分的，并且雅可比 , 即项的偏导数矩阵关于...的条目 , 有等级 .

正在测试的限制示例

由于上述限制的定义似乎有点抽象，我们在下面提供一些示例。

例令参数空间为所有的集合尺寸向量，即 . 假设我们要测试限制 $heta _ {0,2} = 1$ , 哪里 $heta _ {0,2}$ 表示的第二部分 $heta _ {0}$ . 然后，功能是一个功能定义的通过在这个案例， . 的雅可比是 [eq22] 哪一个有明显的排名 .

例令参数空间为所有的集合尺寸向量，即 . 假设我们要测试限制 [eq24] 哪里 $heta _ {0，j}$ 表示 -th 的组成部分 $heta _ {0}$ . 然后，功能是一个功能定义的通过 [eq27] 在这个案例， . 的雅可比是 [eq28] 哪一个有等级因为它的两行是线性独立的。

沃尔德测试

让是一个的估计参数 $heta _ {0}$ , 通过在整个参数空间上最大化对数似然来获得 :的 Wald测试基于以下测试统计： [eq31] 哪里是个样本量和 $widehat {V} _ {n}$ 是对的渐近协方差矩阵的一致估计（请参阅标题为“ 最大似然-协方差矩阵估计）。

在原假设下，即在以下假设下 , Wald统计 $W_ {n}$ 分布趋同到卡方分布与自由程度。

通过固定临界值进行测试并通过拒绝原假设如果

测试的大小可以通过其渐近来近似值

哪里是具有以下项的卡方随机变量的分布函数：自由程度。我们可以选择以便达到预定大小如下：

有关Wald测试的更多详细信息，包括其详细推导渐近分布，可以在标题为“讲座”的演讲中找到沃尔德测试.

分数测试

让是一个的估计参数 $heta _ {0}$ ，它是通过使限制参数的对数似然性最大化而获得的空间 $的ta _ {R}$ :的分数测试（也称为拉格朗日乘数测试）基于以下测试统计：哪里是个样本量, $widehat {V} _ {n}$ 是对的渐近协方差矩阵的一致估计 , 和是分数，即对数似然函数的梯度。

在零假设下 , 得分统计 $LM_ {n}$ 收敛到分布的卡方分布自由程度。

计算出测试统计量后，将按照以下步骤进行测试与上述Wald测试相同。

有关分数测试的更多详细信息，包括其详细推导渐近分布，可以在标题为“讲座”的演讲中找到分数测试.

似然比检验

让是a的无限制估计参数 $heta _ {0}$ 由...获得解决和由解决的似然比检验基于以下检验统计：在换句话说，检验统计量等于两者之间的差值的两倍与无限制估计相对应的对数似然对数似然与限制估计相对应 .

在零假设下 , 得分统计 $LR_ {n}$ 收敛到分布的卡方分布自由程度。

计算出测试统计量后，将按照以下步骤进行测试与上述Wald测试相同。

有关似然比检验的更多详细信息，包括详细推导它的渐近分布，可以在题为“ 似然比检验.

如何引用

请引用为：

Taboga, Marco (2017). "最大可能性-假设检验", 列克特ures on probability theory 和 mathematical 统计, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/fundamentals-of-statistics/maximum-likelihood-hypothesis-testing.