搜索Statlect上的概率和统计信息
统计章程
指数 > 概率分布 > Normal distribution

正常分布 - 二次形式

经过 ，博士学位

讲座介绍了关于涉及二次形式的重要结果 正常随机载体，即关于种类的形式 [eq1]在哪里 X is a Kx1 多变量正常随机矢量, A is a $ kimes k $ matrix and $ op $ 表示换位。

目录

目录

  1. 审查矩阵代数相关结果

    1. 正交矩阵

    2. 对称矩阵

    3. IDEMPotent矩阵

    4. 对称IDEMPotent矩阵

    5. 矩阵

  2. 标准多变量正常随机载体中的二次形式

  3. 标准多元正常随机载体中二次形式的独立性

  4. 例子

    1. 样本方差为二次形式

审查矩阵代数相关结果

在讨论涉及正常随机载体的二次形式之前，我们审查 在整个讲座中使用的矩阵代数的一些结果。

正交矩阵

A $ kimes k $ real matrix A is orthogonal if[eq2]哪一个 also implies[eq3]在哪里 I 是身份矩阵。当然，如果 A is orthogonal also $ a ^ {op} $ is orthogonal.

正交矩阵的一个重要属性是以下内容。

主张 Let X be a Kx1 标准多变量正常随机向量，即， [eq4]. Let A be an orthogonal $ kimes k $ real matrix. Define [eq5]然后 also Y 具有标准多变量正态分布，即， [eq6].

证明

随机向量 Y 具有多变量的正态分布，因为它是线性变换 另一个多变量正常随机向量（参见讲座 线性组合 正常随机变量）。 Y 标准正常是因为它的预期价值 is[eq7]和 它的协方差矩阵 is[eq8]在哪里 最后的平等是正交定义的立即后果 matrix.

对称矩阵

A $ kimes k $ real matrix A is symmetric if[eq9]IE。， A 等于转置。

真正的对称矩阵具有它们可以分解的属性 as[eq10]在哪里 $ p $. 是一个正交的矩阵和 $ d $ 是对角线矩阵（即，其非对角线条目为零的矩阵）。这 diagonal elements of $ d $, 这一切都是真实的，是特征值 A and the columns of $ p $. 是特征向量的 A.

IDEMPotent矩阵

A $ kimes k $ real matrix A is idempotent if[eq11]哪一个 implies[eq12]为了 any $ nin u {2115} $.

对称IDEMPotent矩阵

If a matrix A 是对称和幂的，那么其特征值是零还是一个。 换句话说，对角线矩阵的对角线条目 $ d $ in the decomposition[eq13] 是零还是一个。

证明

这很容易被视为 follows:[eq14]哪一个 implies[eq15]但 只有在对角线条目时才有可能 $ d $ 是零还是一个。

矩阵

Let A be a $ kimes k $ 真实矩阵并表示 $ a_ {ij} $ the $ left（i，j Ight）$ - entry of A （即，交叉口的条目 i - row and the $ j $ - 柱子）。痕迹 A, denoted by [eq16], is[eq17]

换句话说，该跟踪等于所有对角线条目的总和 A.

The trace of A 享受以下重要的财产： [eq18]在哪里 [eq19] are the K eigenvalues of A.

标准多元正常的二次形式 random vectors

以下命题表明标准中某些二次形式 正常随机载体有一个 Chi-square distribution.

主张 Let X be a Kx1 标准多变量正常随机载体，即 [eq20]. Let A 是一个对称和幂等矩阵。让 [eq21] be the trace of A. Define[eq22]然后 $ q $ 有一个Chi-Square分布 [eq23] degrees of freedom.

证明

自从 A 是对称的，它可以分解 as[eq24]在哪里 $ p $. is orthogonal and $ d $ 是对角线。可以写入二次形式 as[eq25]在哪里 we have defined[eq26]经过 上述标准多元正交变换的定理 正常随机载体，正交性 $ p ^ {op} $ implies that [eq27]. Since $ d $ 是对角线，我们可以编写二次形式 as[eq28]在哪里 $ y_ {j} $ is the $ j $ - component of Y and $ d_ {jj} $ is the $ j $ - diagonal entry of $ d $. Since A 是对称和幂的，对角线条目 $ d $ 是零还是一个。表示 $ j $ the set[eq29]和 by $ r $ 它的基数，即对角线条目的数量 $ d $ that are equal to 1. Since [eq30], we can write[eq31]但 标准正常随机向量的组件是 mutually independent 标准正常随机 变量。所以， $ q $ 是平方的总和 $ r $ 独立标准正常随机变量。因此，它有一个Chi-Square distribution with $ r $ 自由度（参见讲座 Chi-Square分布 为了 details). 最后，通过幂等矩阵的属性和矩阵的迹线 (see above), $ r $ 不仅是对角线条目的数量 $ d $ that are equal to 1, 但它也是特征值的总和 A. 由于矩阵的痕迹等于其特征值的总和，然后 [eq32].

上面的命题可用于导出以下非常有用 proposition.

主张 Let X be a Kx1 多变量正常随机载体与平均值 亩 和可逆的协方差矩阵 V. Define[eq33]然后 $ q $ 有一个Chi-Square分布 K degrees of freedom.

证明

自从 V 是可逆的，存在可逆的矩阵 Sigma. such that[eq34]所以， we have[eq35]在哪里 we have defined[eq36]存在 多元正常随机载体，载体的线性变换 Z 具有多变量的正态分布。它的意思 is[eq37]和 它的协方差矩阵 is[eq38]因此， Z 具有标准多变量正态分布（平均值 0 and variance I) and[eq39]是 标准正常随机向量中的二次形式。结果，它有 奇方分布 [eq40] degrees of freedom.

标准二次形式的独立性 多变量正常随机载体

我们开始了本节，提出线性之间的独立性 transformations.

主张 Let X be a Kx1 标准多变量正常随机向量，即， [eq41]. Let A be a $ l_ {a} imes k $ matrix and $ b $ be a $ l_ {b} imes k $ matrix. Define[eq42]然后 $ t_ {1} $ and $ t_ {2} $ 如果且才有两个独立的随机vectors，只有 $ ab ^ {intercal} = 0 $.

证明

首先，请注意 $ t_ {1} $ and $ t_ {2} $ 是相同多变量正常随机载体的线性变换 X. 因此，它们是共同正常的（见题为有权的讲座 线性组合 正常随机变量）。他们的 cross-covariance is[eq43]但， 正如我们在题为题目的讲座中解释的那样 Multivariate 正态分布 - 分区向量，两个联合正常随机 如果它们的交叉协方差等于，则vectors是独立的 0. 在我们的情况下，跨协方差如果才等于零（只有） $ ab ^ {intercal} = 0 $, 这证明了这个命题。

以下命题为此提供了必要和充分的条件 两个二次形式的独立在相同的标准多元正常 random vector.

主张 Let X be a Kx1 标准多变量正常随机向量，即， [eq44]. Let A and $ b $ be two $ kimes k $ 对称和IDEMPOTENT矩阵。 Define[eq45]然后 $ q_ {1} $ and $ q_ {2} $ 如果且才有两个独立的随机变量 $AB=0$.

证明

自从 A and $ b $ 是对称和幂的，我们可以 write[eq46]从 这很明显 $ q_ {1} $ and $ q_ {2} $ 只要只要像距离一样独立 $ ax $ and $ BX $ 是独立的。但是，通过上述关于独立之间的主张 联合正常随机载体的线性变换， $ ax $ and $ BX $ 如果才是独立的，只有 $ ab ^ {intercal} = 0 $. Since $ b $ 是对称的，这与 $AB=0$.

以下命题为此提供了必要和充分的条件 二次形式与涉及线性变换之间的独立性 相同的标准多变量正常随机向量。

主张 Let X be a Kx1 标准多变量正常随机向量，即， [eq47]. Let A be a $ limes k $ vector and $ b $ a $ kimes k $ 对称和IDEMPotent矩阵。 Define[eq48]然后 $ t $ and $ q $ 如果才是独立的，只有 $AB=0$.

证明

自从 $ b $ 是对称和幂的，我们可以 write[eq49]从 这很明显 $ t $ and $ q $ 只要只要像距离一样独立 $ ax $ and $ BX $ 是独立的。但是，通过上述关于独立之间的主张 联合正常随机载体的线性变换， $ ax $ and $ ab $ 如果才是独立的，只有 $ ab ^ {intercal} = 0 $. Since $ b $ 是对称的，这与 $AB=0$.

例子

我们在这里讨论一些常见的统计数据的二次形式。

样本方差为a quadratic form

Let X_1, ..., X_N. be n 独立随机变量，都有一个正常 分布与平均值 亩 and variance $ sigma ^ {2} $. Let their sample mean xbar_n. be defined as[eq50]

and their adjusted sample variance 是 defined as[eq51]

Define the following matrix:[eq52]在哪里 I is the n - 一维 identity matrix and $ imath $ is a $尼姆1 $ 矢量矢量。换句话说， $ m $ has the following structure:[eq53]

$ m $ 是一个对称矩阵。通过计算产品 $ mcdot m $, 它也可以很容易地验证 $ m $ is idempotent.

Denote by X the $尼姆1 $ random vector whose i - entry is equal to X_I. and note that X 具有多变量的正态分布与平均值 $ mu imath $ 和协方差矩阵 $ sigma ^ {2} i $ （参见题为有权的讲座 多变量 normal distribution）。

The matrix $ m $ 可用于编写样本方差 as[eq54]

现在定义一个新的随机性 vector[eq55]和 note that Z 有一个标准（平均零和协方差 I) 多变量正态分布（参见题为有权的讲座 线性组合 正常随机变量）。

可以写入示例方差 as[eq56]

总和中的最后三个术语等于零 because[eq57]哪一个 可以通过直接执行乘法来验证 $ m $ and $ imath $.

因此，样品 variance[eq58]是 与标准正常随机向量中的二次形式成比例 ($ z ^ {op} mz $) 并且从对称和幂幂矩阵获得二次形式 ($ m $）。 由于上面的命题，我们知道二次形式 $ z ^ {op} mz $ 有一个Chi-Square分布 [eq59] 自由度，在哪里 [eq60] is the trace of $ m $. But the trace of $ m $ is[eq61]

所以，二次形式 $ z ^ {op} mz $ 有一个Chi-Square分布 $n-1$ 自由程度。将Chi-Square随机变量乘以 $n-1$ 自由度 [eq62] 一个参数获取伽马随机变量 $n-1$ and 西格玛^ 2. （参见题为有权的讲座 Gamma distribution for more details).

所以，总结，调整后的样本方差 $ s ^ {2} $ 具有参数的伽玛分布 $n-1$ and 西格玛^ 2..

此外，调整后的样本方差 $ s ^ {2} $ 独立于样本意味着 xbar_n., 这被证明如下。样本意味着可以写成 as[eq63]和 可以写入示例方差 as[eq64]如果 我们使用上述命题（线性变换之间的独立性和 一种二次形式），验证独立性 xbar_n. and $ s ^ {2} $ 归结为验证这一点 [eq65]哪一个 可以通过直接执行乘法来轻松检查 $ imath ^ {op} $ and $ m $.

如何引用

请引用：

Taboga, Marco (2017). "正常分布 - 二次形式", Lectures on probability theory and mathematical statistics, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/probability-distributions/normal-distribution-quadratic-forms.

这本书

本网站上发现的大多数学习材料现在都以传统的教科书格式提供。

特色页面
探索
主要部分
关于
词汇表参赛作品
分享