本讲座介绍有关二次形式的一些重要结果,包括
正常随机向量,即关于那种形式
哪里
是一个
多元正态随机向量,
是一个
矩阵和
表示换位。
在讨论涉及正常随机向量的二次形式之前,我们先回顾一下 矩阵代数的一些结果将在整个讲座中使用。
A
实矩阵
是正交的
如果
哪一个
也
暗示
哪里
是单位矩阵。当然,如果
也正交
是正交的。
正交矩阵的重要属性如下。
主张
让
成为
标准多元正态随机向量,即
.
让
正交
实矩阵。定义
然后
也
具有标准的多元正态分布,即
.
随机向量
具有多元正态分布,因为它是线性变换
另一个多元正态随机向量的概念(请参见标题为“
的线性组合
正常随机变量)。
是标准常态,因为其预期值
是
和
它的协方差矩阵
是
哪里
最后的等式是正交定义的直接结果
矩阵。
A
实矩阵
是对称的
如果
即
等于其转置。
实对称矩阵具有可以分解的特性
如 哪里
是一个正交矩阵,
是对角矩阵(即非对角线项为零的矩阵)。的
的对角线元素
,
都是真实的,是...的特征值
和的列
是...的特征向量
.
A
实矩阵
是幂等的
如果
哪一个
暗示
对于
任何
.
如果矩阵
如果是对称和幂等的,则其特征值可以为零或一。
换句话说,对角矩阵的对角项
在里面
分解
是零或一。
可以很容易地将其视为
如下:哪一个
暗示
但
仅当
是零或一。
让
成为
实矩阵并用
的
-th
进入
(即,
-th
行和
-th
柱)。的痕迹
,
表示为
,
是
换句话说,迹线等于的所有对角线项的和
.
的痕迹
享有以下重要财产:
哪里
是
的特征值
.
以下命题表明标准中的某些二次形式 正常随机向量具有 卡方 分配.
主张
让
成为
标准多元正态随机向量,即
.
让
是对称和幂等的矩阵。让
成为
.
定义
然后
具有卡方分布
自由程度。
以来
是对称的,可以分解
如
哪里
是正交的
是对角线的。可以写出二次形式
如
哪里
我们有
定义的
通过
上面关于标准多元正交变换的定理
正常随机向量,正交性
暗示
.
以来
是对角线,我们可以写二次形
如
哪里
是个
-th
的组成部分
和
是个
-th
的对角线入口
.
以来
是对称且幂等的
是零或一。表示为
的
组
和
通过
其基数,即
等于
.
以来
,
我们可以
写
但
标准法向随机向量的分量是
相互独立 标准正常随机
变量。因此,
是的平方和
独立标准正态随机变量。因此,它有一个卡方
与分布
自由度(请参阅标题为“
卡方分布 有关详细信息)。
最后,通过幂等矩阵的性质和矩阵的迹线
(看上面),
不仅是
等于
,
但这也是...的特征值之和
.
由于矩阵的迹线等于其特征值之和,因此
.
上面的命题可以用来得出以下极其有用的 主张。
主张
让
成为
均值的多元正态随机向量
和可逆协方差矩阵
.
定义
然后
具有卡方分布
自由程度。
以来
是可逆的,存在一个可逆矩阵
这样
那
因此,
我们
有
哪里
我们有
定义的
存在
多元正态随机向量的线性变换,该向量
具有多元正态分布。它的意思
是
和
它的协方差矩阵
是
从而,
具有标准的多元正态分布(均值
和方差
)
和
是
标准法向随机向量中的二次形式。结果,它具有
卡方分布
自由程度。
我们从关于线性之间的独立性的命题开始 转变。
主张
让
成为
标准多元正态随机向量,即
.
让
成为
矩阵和
成为
矩阵。
定义
然后
和
是两个独立的随机向量,当且仅当
.
首先,请注意
和
是同一多元法线随机向量的线性变换
.
因此,它们共同正常(请参阅标题为“
的线性组合
正常随机变量)。其
互协方差
是
但,
正如我们在题为“
多变量
正态分布-分割向量,两个共同正常随机
向量是独立的,当且仅当它们的互协方差等于
.
在我们的情况下,当且仅当以下条件时,互协方差等于零
,
证明了这一命题。
以下命题为 同一标准多元正态中两个二次形式的独立性 随机向量。
主张
让
成为
标准多元正态随机向量,即
.
让
和
是两个
对称和幂等矩阵。
定义
然后
和
是两个独立的随机变量,当且仅当
.
以来
和
是对称和幂等的,我们可以
写
从
显然
和
可以独立,只要
和
是独立的。但是,通过以上关于
联合法向随机向量的线性变换,
和
是独立的,当且仅当
.
以来
是对称的,这与
.
以下命题为 二次形式和涉及的线性变换之间的独立性 相同的标准多元正态随机向量。
主张
让
成为
标准多元正态随机向量,即
.
让
成为
向量和
a
对称和幂等矩阵。
定义
然后
和
是独立的,当且仅当
.
以来
是对称和幂等的,我们可以
写
从
显然
和
可以独立,只要
和
是独立的。但是,通过以上关于
联合法向随机向量的线性变换,
和
是独立的,当且仅当
.
以来
是对称的,这与
.
我们在这里讨论统计中常见的一些二次形式。
让
,
...,
是
独立随机变量,一切正常
均值分布
和方差
.
让他们 样本平均值
被定义
如
和他们的 调整样本
方差 被定义
如
定义以下内容
矩阵:哪里
是个
尺寸
单位矩阵和
是一个
向量的。换一种说法,
具有以下
结构体:
是一个对称矩阵。通过计算产品
,
也可以很容易地验证
是幂等的。
表示为
的
随机向量
-th
项等于
并注意
具有多元正态分布,均值
和协方差矩阵
(请参阅标题为“ 多元正态
分配)。
矩阵
可以用来写样本方差
如
现在定义一个新的随机
向量和
注意
有一个标准(平均零和协方差
)
多元正态分布(请参阅标题为“
的线性组合
正常随机变量)。
样本方差可以写成
如
总和的最后三项等于零
因为哪一个
可以通过直接执行乘法来验证
和
.
因此,样本
方差是
与标准法向随机向量中的二次形式成比例
(
)
从对称和幂等矩阵获得二次形式
(
)。
由于上述命题,我们知道二次形式
具有卡方分布
自由度,在哪里
是的痕迹
.
但是痕迹
是
所以,二次形式
具有卡方分布
自由程度。卡方随机变量乘以
自由度
一个获得带有参数的Gamma随机变量
和
(请参阅标题为“ 伽玛分布
更多细节)。
因此,总结一下,调整后的样本方差
具有带有参数的Gamma分布
和
.
此外,调整后的样本方差
独立于样本均值
,
证明如下。样本均值可以写成
如
和
样本方差可以写成
如
如果
我们使用上面的命题(线性变换和
二次形式),验证
和
归结为验证
哪一个
通过直接执行乘法可以很容易地检查
和
.
请引用为:
Taboga, Marco (2017). "正态分布-二次形式", 列克特ures on probability 的ory 和 mathematical statistics, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/probability-distributions/normal-distribution-quadratic-forms.