在Statlect上搜索概率和统计术语
统计列克特
指数 > 的基本原理 统计 > 最大 可能性-假设检验

分数测试

通过 博士

分数测试(也称为拉格朗日乘数(LM)测试)是 假设检验 用于检查是否 对模型估计的限制 最大似然 (ML)被违反 数据。

为了更好地理解此处介绍的材料,您应该 熟悉ML框架中的假设检验的主要概念(请参阅 介绍性演讲题为 最大 可能性-假设检验)。

目录

零假设

分数测试可以应对 零假设 以下的 类:[eq1]哪里 $ heta _ {0} $ 是属于参数空间的未知参数 [eq2], 和 [eq3] 是向量值函数 ($ rleq p $)。

正如我们在上述介绍性演讲中所解释的那样,大多数 可以写入可能要测试的通用参数限制 表格 [eq4].

得分统计

分数测试中使用的统计数据基于ML估算值 [eq5] 从约束优化的解决方案中获得 问题[eq6]哪里 $ xi _ {n} $ 是观测数据的样本, [eq7] 是似然函数,并且 [eq8]是 满足正在测试的限制的参数集。

测试统计量,称为得分统计量, 是[eq9]哪里 n 是个 样本量, $ widehat {V} _ {n} $ 是估计量的渐近协方差矩阵的一致估计量 [eq10] (请参阅标题为“ 最大 似然-协方差矩阵估计),以及 [eq11]是 对数似然函数的梯度(称为得分),即 对数似然函数的偏导数的向量 参数向量的条目 $ heta $.

假设条件

为了导出统计量的渐近性质 $ LM_ {n} $, 将维持以下假设:

检验统计量的渐近分布

鉴于以上假设,在零假设下, [eq14], 统计 $ LM_ {n} $ 分布收敛到卡方分布。

主张 只要满足一些技术条件(见上文),并提供 零假设 [eq15] 是的,分数统计 $ LM_ {n} $ 分布趋同 卡方分布$ r $ 自由程度。

证明

表示为 [eq16] 无约束的最大似然 估计:[eq17]通过 中值定理,我们有 那[eq18]哪里 [eq19] 是一个中间点(其成分严格组成的向量 在组件之间 [eq20] 和那些 [eq21])。 以来 [eq22] $ 的ta _ {R} $, 我们有 那[eq23]因此,[eq24]再次 根据中值定理,我们有 那[eq25]哪里 [eq26] 是Hessian矩阵(二阶偏导数的矩阵),并且 [eq27] 是一个中间点(实际上,确切地说, 黑森州的每一行的中间点)。因为梯度为零 在不受限制的最大值下,我们有 那[eq28]和, 作为一个 后果,[eq29][eq30]它 下降 那[eq31] 现在, [eq32]哪里 $ lambda $ 是一个 $ rimes 1 $ 向量的拉格朗日乘数。因此,我们有 那[eq33]解决 对于 $ lambda $, 我们 获得[eq34]




现在,可以写出分数统计 如 [eq35]堵塞 在先前导出的表达式中 $ lambda,$, 统计 变成[eq36]哪里[eq37]给定 在原假设下 [eq38][eq39] 收敛概率$ heta _ {0} $, 也 [eq40][eq41] 收敛到 $ heta _ {0} $, 因为的条目 [eq42][eq43] 严格包含在 [eq44][eq45]. 此外,[eq46]哪里 V 是的渐近协方差矩阵 [eq47]. 我们以前假设 $ widehat {V} _ {n} $ 收敛到 V. 因此,通过 连续映射 定理,我们有以下 结果[eq48]通过 将到目前为止得出的所有信息放在一起,我们可以写出分数 统计为二次形式的序列 [eq49]哪里[eq50][eq51]但 在关于 沃尔德测试,我们已经证明 这样的序列在分布上收敛到卡方随机变量 自由度等于 [eq52].

考试

在分数检验中,如果分数统计量为零,则原假设被拒绝 超过预定 危急 值 $ z $, 那是, 如果[eq53]

测试的大小 可 由其渐近近似 值[eq54]

哪里 $ Fleft(z
权)$ 是个 分配 功能 卡方随机变量的 $ r $ 自由程度。

我们可以选择 $ z $ 以便达到预定大小 如下:[eq55]

下面是一个如何使用分数测试的简单示例。

令参数空间为所有的集合 $2$尺寸 向量,即 [eq56]. 表示true参数的第一部分和第二部分 $ heta _ {0} $ 通过 $ heta _ {0,1} $$ heta _ {0,2} $. 假设我们要测试 限制[eq57]在 这种情况下,功能 [eq58] 是一个功能 [eq59] 定义的 通过[eq60]我们 有那个 $r=1$$ g $[eq61]谁的 等级等于 $r=1$. 另请注意,它不依赖于 $ heta $. 然后,我们将对数的对数似然函数最大化 $ heta _ {2} $ (保持 $ heta _ {1} $ 固定在 $ heta _ {1} = 0 $)。 假设我们获得以下参数和 渐近协方差 矩阵:[eq62]哪里 $70$ 是样本量。还假设分数的值 是[eq63]然后, 得分统计为 [eq64]的 统计量的卡方分布为 $r=1$ 自由程度。假设我们希望测试的大小为 $ lpha = 1%$. 然后,临界值 $ z $[eq65]哪里 $ Fleft(z
权)$ 是卡方随机变量的累积分布函数,其中 1 自由度和 [eq66] 可以使用任何统计软件进行计算(我们已经在MATLAB中完成了, using 的 command chi2inv(0.99,1))。 Thus, 的 test 统计超出关键 值[eq67]和 我们拒绝原假设。

如何引用

请引用为:

Taboga, Marco (2017). "分数测试", 列克特ures on probability 的ory 和 mathematical 统计, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/fundamentals-of-statistics/score-test.

这本书

该网站上提供的大多数学习材料现在都以传统教科书格式提供。