搜索Statlect上的概率和统计信息
统计章程
指数 > Fundamentals of statistics > Maximum 可能性 - 假设测试

评分测试

经过 ,博士学位

得分测试,也称为Lagrange乘数(LM)测试,是一个 hypothesis test 用来检查是否是 对估计模型的限制 maximum likelihood (ML) is violated by the data.

为了更好地了解这里呈现的材料,您应该是 熟悉ML框架中假设检测的主要概念(见 题目介绍讲座 Maximum 可能性 - 假设测试)。

目录

零假设

得分测试允许处理 null hypotheses of the following kind:[eq1]在哪里 $ heta _ {0} $ 是属于参数空间的未知参数 [eq2], and [eq3] 是矢量值函数 ($ rleq p $)。

正如我们在上面提到的介绍讲座中解释的那样,大部分 可以编写一个可能想要测试的常见参数限制 the form [eq4].

分数统计学

评分测试中使用的统计数据基于ML估计值 [eq5] 从受约束优化的解决方案获得 problem[eq6]在哪里 $ xi _ {n} $ 是观察数据的样本, [eq7] 是可能的函数,而且 [eq8]是 满足正在测试的限制的参数集。

测试统计,称为分数统计, is[eq9]在哪里 n is the sample size, $ widehat {v} _ {n} $ 是对估计者的渐近协方差矩阵的一致估计 [eq10] (参见题为有权的讲座 Maximum 可能性 - 协方差矩阵估计), 和 [eq11]是 日志似然函数(称为分数)的梯度,即 对数似函数的部分衍生物的矢量相对于 参数矢量的条目 $ heta $.

假设

为了得出统计数据的渐近性质 $ lm_ {n} $, 将维持以下假设:

测试统计的渐近分布

鉴于上述假设,在零假设下 [eq14], the statistic $ lm_ {n} $ 收敛于分配到Chi-Square分布。

主张 提供了一些技术条件(见上文),并提供了 null hypothesis [eq15] 是真的,得分统计 $ lm_ {n} $ 分配融合 至 a Chi-Square分布 with $ r $ degrees of freedom.

证明

表示 [eq16] 不受约束的最大可能性 estimate:[eq17]经过 平均值定理,我们有 that[eq18]在哪里 [eq19] 是中间点(严格构成的组件的矢量 之间的组件 [eq20] and those of [eq21])。 Since [eq22] $ theta _ {r} $, we have that[eq23]所以,[eq24]再次 通过平均值定理,我们有 that[eq25]在哪里 [eq26] 是黑森州矩阵(第二部分衍生物的矩阵)和 [eq27] 是一个中间点(实际上,精确,有一个不同的 每一行的中间点为每一行的黑森州)。因为梯度为零 在不受约束的最大值,我们有 that[eq28]和, as a consequence,[eq29][eq30]它 descends that[eq31] Now, [eq32]在哪里 $ lambda $ is a $ rimes 1 $ 拉格朗日乘客矢量。因此,我们有 that[eq33]解决 for $ lambda $, we obtain[eq34]




现在,可以写得分统计 as[eq35]堵塞 在以前派生的表达式中 $ lambda,$, the statistic becomes[eq36]在哪里[eq37]给予 在零假设下 [eq38] and [eq39] 汇合概率 to $ heta _ {0} $, also [eq40] and [eq41] 汇集概率 $ heta _ {0} $, 因为参赛作品 [eq42] and [eq43] 严格组成的条目 [eq44] and [eq45]. Moreover,[eq46]在哪里 V 是渐近协方差矩阵 [eq47]. 我们以前认为也有 $ widehat {v} _ {n} $ 收敛于概率 V. Therefore, by the continuous mapping 定理,我们有以下内容 results[eq48]经过 到目前为止,将所有我们派生的东西放在一起,我们可以写得分 作为一系列二次形式的统计 [eq49]在哪里[eq50][eq51]但 在讲座中 Wald test,我们已经证明了 这样的序列会聚分布到Chi-Square随机变量 有许多自由度等于 [eq52].

考试

在得分测试中,如果分数统计,则拒绝零假设 超过预先确定的 critical value $ z $, that is, if[eq53]

The size of the test can be 近似的渐近 value[eq54]

where $ fleft(z
Ight)$ is the distribution function 奇方随机变量与 $ r $ degrees of freedom.

We can choose $ z $ 以便达到预先确定的大小,如 follows:[eq55]

例子

可以使用如何使用分数测试的简单示例。

例子 让参数空间是所有的集合 $2$ - 一维 vectors, i.e., [eq56]. 表示真实参数的第一个和第二个组件 $ heta _ {0} $ by $ heta _ {0,1} $ and $ heta _ {0,2} $. 假设我们想要测试 restriction[eq57]在 这种情况,功能 [eq58] is a function [eq59] defined by[eq60]我们 have that $r=1$ and the Jacobian of $ g $ is[eq61]谁的 rank is equal to $r=1$. 还要注意它不依赖 $ heta $. 然后我们最大化对数似然函数 $ heta _ {2} $ (keeping $ heta _ {1} $ fixed at $ heta _ {1} = 0 $)。 假设我们获得以下参数的估计值 渐近协方差 matrix:[eq62]在哪里 $70$ 是样本大小。也认为分数的价值 is[eq63]然后, 分数统计是 [eq64]这 统计数据具有奇广场分布 $r=1$ 自由程度。假设我们希望测试的大小 $ lpha = 1%$. 然后,临界价值 $ z $ is[eq65]在哪里 $ fleft(z
Ight)$ 是Chi-Square随机变量的累积分布函数 1 自由程度和 [eq66] 可以用任何统计软件计算(我们在Matlab中完成了它, using the command chi2inv(0.99,1))。 Thus, the test 统计数据超过了危急 value[eq67]和 我们拒绝零假设。

如何引用

请引用:

Taboga, Marco (2017). "评分测试", Lectures on probability theory and mathematical statistics, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/fundamentals-of-statistics/score-test.

这本书

本网站上发现的大多数学习材料现在都以传统的教科书格式提供。