本讲座介绍了一些示例 点 估算 问题,专注于 方差估计, 也就是说,使用样本产生对点的估计 方差 未知真人在线斗地主。
在此示例中,我们做出的假设与我们在 均值估计的示例 意思 估计-普通IID样本。强烈建议读者阅读 在阅读此示例之前的那个示例。
例子
由..制作
从一个独立抽签 正态真人在线斗地主 有
已知均值
和未知方差
.
具体来说,我们观察
实现
,
...,
的
独立随机变量
,
...,
,
全部具有已知均值的正态真人在线斗地主
和未知方差
.
样本是
尺寸
向量
这是实现 随机向量
我们使用以下估算器
方差:
估计量的期望值
等于真实方差
:
这可以用线性度证明
预期
值:
因此,估算器
是 无偏见的.
估计量的方差
是
可以使用以下事实证明这一点:
正态真人在线斗地主
和独立方差的公式
和:
因此,随着样本数量的增加,估计量的方差趋于零
趋于无穷大。
估计量
有一个 伽玛真人在线斗地主 带参数
和
.
的 均方误差 的
估计量
是
的
估计量能够
被视为序列的样本均值
序列的通用术语
是
的
顺序
满足条件 柯尔莫哥洛夫的
强数定律
(
是具有有限均值的IID序列)。因此,样本均值
几乎肯定会收敛 真实地
:
因此
估计量
是 高度一致。它是
也 弱一致性,
因为 几乎可以肯定,收敛意味着收敛
可能性:
此示例与上一个示例相似。唯一的区别是我们 放宽真人在线斗地主均值已知的假设。
例子
由..制作
从均值未知的正态真人在线斗地主中独立提取
和未知方差
.
具体来说,我们观察
实现
,
...,
的
独立随机变量
,
...,
,
全部具有正态真人在线斗地主,均值未知
和未知方差
.
样本是
尺寸
向量
这是随机向量的实现
在此示例中,还需要确定真人在线斗地主的均值(未知)
估计。据估计
样本平均值
:
我们使用以下方差估计量:
未调整样本方差的期望值
是
这可以证明为
如下:但
什么时候
(因为
和
在什么时候是独立的
-看 通过相互独立
期望)。
因此,
因此,未经调整的样本方差
是一个 有偏见的 真实的估计
方差
.
调整后的样本方差
,
相反,是的无偏估计量
方差:
这可以证明为
如下:
因此,当
被估计,我们需要除以
而不是
以获得无偏估计。直观地考虑平方
与样本均值的偏差,而不是与真实值的平方偏差
意思是,我们低估了数据的真实可变性。实际上,
与真实均值的平方偏差之和始终大于
与样本均值的平方偏差。除以
而不是
完全纠正了这种偏见。号码
我们除以的方式称为 自由度数
等于采样点数
(
)
减去要估计的其他参数的数量(在本例中为
,
真实的意思
)。
我们需要乘以有偏估计的因素
获得无偏估计量
是,属于
课程,
这个因素称为 自由度调整, 哪一个
解释为什么
称为未调整样本方差,
称为调整样本方差。
未调整样本方差的方差
是
以下小节对此进行了证明 (估算器的真人在线斗地主)。
调整后的样本方差的方差
是
在下面也证明了这一点 小节(估算器的真人在线斗地主)。
因此,两者的方差
和的方差
样本数量收敛为零
趋于无穷大。另请注意,未经调整的样本方差
,
尽管有偏差,但方差比调整后的样本方差小
,
相反,这是公正的。
未经调整的样本方差
具有带有参数的Gamma真人在线斗地主
和
.
为了证明这一结果,我们需要使用一些
关于涉及正常随机变量的二次形式的事实,
在演讲中介绍
正态真人在线斗地主-
二次形式。要了解此证明,您需要先阅读
讲座,特别是标题为
样本方差
作为二次形式。定义
矩阵哪里
是一个
单位矩阵和
是一个
向量的。
是对称和幂等的。表示为
的
随机向量
-th
项等于
.
随机向量
具有多元正态真人在线斗地主,均值
和 协方差矩阵
.
利用矩阵的事实
是对称且幂等的,可以写未经调整的样本方差
如
通过使用随机的事实
向量具有
a 标准多元正态真人在线斗地主 和
事实上
,
我们可以重写
在
也就是说,
与标准法向随机向量中的二次形式成比例
(
)
二次形式涉及一个对称且等幂的矩阵,其轨迹
等于
.
因此,二次形式
具有卡方真人在线斗地主
自由程度。最后,我们可以
写
那
是的
是卡方随机变量除以其自由度数
并乘以
.
从而,
是具有参数的Gamma随机变量
和
(请参阅标题为“ 伽玛真人在线斗地主
进行解释)。而且,根据Gamma随机变量的属性,
期望值
是
和
其方差
是
调整后的样本方差
具有带有参数的Gamma真人在线斗地主
和
.
这个结果的证明类似于
上面未调整的样本方差的证明。也可以在
演讲题目 正常
真人在线斗地主-二次形式。在这里,我们只是注意到
,
是具有参数的Gamma随机变量
和
,
预期
值
和
方差
的 均方误差 的
未经调整的样本方差
是
它
可以证明为
如下:
调整后样本方差的均方误差
是
它
可以证明为
如下:
因此,未经调整的样本方差的均方误差总是
小于调整后样本的均方误差
方差:
未经调整的样本
方差能够
被写
如
哪里
我们有
定义的
的
两个序列
和
是...的样本手段
和
分别。后者都满足以下条件
柯尔莫哥洛夫的强数定律
(它们形成 IID序列 与有限
均值),这意味着他们的样本均值
和
几乎可以肯定地收敛到他们的真实
手段:
以来
的
功能
是
连续和 几乎
确保通过连续转换保持收敛,我们
获得
因此
估计量
是 高度一致。它是
也 弱一致性 因为
几乎可以肯定,收敛意味着收敛
可能性:
的
调整后的样本方差
可以写
如
的
比
可以认为是一个恒定的随机变量
定义为
如下:
哪一个
几乎可以肯定地收敛到
.
因此,
哪里
都
和
几乎肯定会收敛。由于产品具有连续功能,
几乎可以肯定,通过持续的转换可以保持收敛,我们
有
从而,
也
是高度一致的。
您可以在下面找到一些练习,其中包含已说明的解决方案。
您可以从未知的正态真人在线斗地主中观察到三个独立的抽奖
意思
和未知方差
.
它们的值分别为50、100和150。使用这些值可产生无偏
估计真人在线斗地主方差。
样本均值是
一个
调整后的样本提供方差的无偏估计
方差:
机器(激光测距仪)用于测量 机器本身和给定的对象。测量到物体的距离时 位于相距10米的位置,机器造成的测量误差为 正态真人在线斗地主和独立真人在线斗地主,并且平均等于零。的 测量误差的方差小于1平方厘米,但其 确切值未知,需要估算。估计一下,我们 重复进行相同的测量,然后我们计算样本的方差 测量误差(我们也能够计算,因为我们知道 真实距离)。我们需要进行多少次测量才能获得 标准差小于0.1平方的方差估计量 厘米?
表示测量误差
,
...,
.
使用以下方差估计量:
的
该估计量的方差
是
从而
我们
需要确保
那
要么
哪一个
肯定经过验证
如果
要么
请引用为:
Taboga, Marco (2017). "方差的点估计", 列克特ures on 可能性 的ory 和 mathematical 统计, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/fundamentals-of-statistics/variance-estimation.