在Statlect上搜索概率和统计术语
统计列克特
指数 > 概率分布

多元正态分布

通过 博士

多元正态(MV-N)分布是多元概括 一维的 正态分布。在其 最简单的形式,称为“标准” MV-N分布,它描述了 条目相互之间是一个真人在线斗地主向量的联合分布 独立的单变量正态真人在线斗地主变量,均具有零均值和单位 方差。它以一般形式描述了真人在线斗地主的联合分布 可以表示为标准MV-N的线性变换的向量 向量。

认为任何一组正常真人在线斗地主变量 一起考虑,形成多元正态分布。这不是 案件。实际上,可以构建不是MV-N的真人在线斗地主向量, 但其各个元素具有正态分布。后一个事实是 在理论上非常著名 科普莱 (一种理论,该理论允许首先指定真人在线斗地主向量的分布 指定其成分的分布,然后链接单变量 通过称为copula的函数进行分布)。

本讲座的其余部分说明了 多元正态分布,首先处理“标准”情况, 然后是更一般的情况。

目录

标准多元正态分布

形容词“标准”用于表示分布的均值 等于零,并且其协方差矩阵等于恒等矩阵。

定义

标准MV-N真人在线斗地主向量的特征如下。

定义 X 成为 Kx1 连续真人在线斗地主 向量。让它 支持 被设置 的 K尺寸 真实 向量:[eq1]我们 比如说 X 有一个 标准多元正态分布 如果它是 联合概率 密度函数[eq2]

与单变量正态分布的关系

表示 i-th 的组成部分 x 通过 $ x_ {i} $. 联合概率密度函数可以写成 如 [eq3]哪里 [eq4] 是a的概率密度函数 标准正常真人在线斗地主 变量:[eq5]

因此, K 的组成部分 XK 相互独立 标准正常真人在线斗地主 变量(以下是更详细的证明)。

证明

如我们所见, 联合概率密度函数可以写成 如 [eq6]哪里 [eq4] 是标准正态真人在线斗地主数的概率密度函数 变量:[eq5][eq4] 也是 边缘 概率密度函数i-th 的组成部分 X:[eq10]因此, 的联合概率密度函数 X 等于其边际的乘积,这意味着 X 彼此独立。

期望值

期望值 MV-N真人在线斗地主向量的形式 X[eq11]

证明

所有 的组成部分 X 是标准正态真人在线斗地主变量,而标准正态真人在线斗地主变量具有 意思 0.

协方差矩阵

协方差矩阵 标准MV-N真人在线斗地主数 向量 X[eq12]哪里 I 是个 $ Kimes K $ 单位矩阵,即 $ Kimes K $ 对角线元素等于1并且非对角线入口的矩阵 等于 0.

证明

这是通过使用 协方差 矩阵:[eq13]哪里 X_i 是个 i-th 的组成部分 X. 由于组成 X 都是标准的正常真人在线斗地主变量,它们的方差都等于 $1 $, 即[eq14]此外, 由于组成 X 相互独立,独立意味着零协方差,所有 协方差等于 0, 即[eq15]因此,[eq16]

关节力矩产生功能

关节力矩产生功能 的 标准MV-N真人在线斗地主向量 X 为任何定义 $锡U {211d} ^ {K} $:[eq17]

证明

K 的组成部分 XK 相互独立的标准正态真人在线斗地主变量(请参见上文)。作为一个 结果, X 可以导出为 如下:[eq18]哪里 我们使用了真人在线斗地主矩产生函数的定义 变量和事实的组成部分 X 彼此独立。自从力矩产生功能成为标准 正常真人在线斗地主变量 是[eq19]的 的联合mgf X[eq20]注意 那mgf [eq21] 定义标准正态真人在线斗地主变量的 $ t_ {i} in U {211d} $. 结果, X 为任何定义 $锡U {211d} ^ {K} $.

联合特征函数

联合特征 功能 MV-N真人在线斗地主向量的形式 X[eq22]

证明

K 的组成部分 XK 相互独立的标准正态真人在线斗地主变量(请参见上文)。作为一个 结果,联合特征函数 X 可以导出为 如下:[eq23]哪里 我们使用了真人在线斗地主的联合特征函数的定义 变量和事实的组成部分 X 彼此独立。由于标准的特征功能 正常真人在线斗地主变量 是[eq24]然后 的联合特征函数 X[eq25]

一般的多元正态分布

在上一节中,我们将注意力集中在多变量上 具有零均值和单位协方差的正态分布,我们现在处理 一般情况。

定义

多元正态真人在线斗地主向量的特征如下。

定义 X 成为 Kx1 连续真人在线斗地主向量。让其支持为 K尺寸 真实 向量:[eq26]亩 成为 Kx1 向量和 V a $ Kimes K $ 对称正定矩阵。我们说 X 有一个 多元正态分布 刻薄 亩 和 协方差 V 如果其联合概率密度函数 是[eq27]

我们指出 X 具有多元正态分布,均值 亩 和协方差 V 通过[eq28]

K 真人在线斗地主变量 [eq29] 构成向量 X 据说是 共同正常.

标准与一般之间的关系

具有MV-N分布且均值的真人在线斗地主向量 亩 和协方差 $ V $ 只是“标准” MV-N向量的线性函数:

主张X 成为 Kx1 具有MV-N分布且均值的真人在线斗地主向量 亩 和协方差 V. 然后,[eq30]哪里 Z 是标准的MV-N Kx1 向量和 西格玛 是一个 $ Kimes K $ 可逆矩阵使得 [eq31].

证明

使用以下公式可以证明这一点: 的线性函数的关节密度 连续真人在线斗地主向量 ([eq32] 是线性的一对一映射,因为 西格玛 是 可逆):[eq33]的 矩阵的存在 西格玛 满意的 [eq34] 由以下事实保证 V 是对称且正定的

期望值

MV-N真人在线斗地主向量的期望值 X[eq35]

证明

这个 是以下事实的直接后果: $ X = 亩 + 西格玛 Z $ (哪里 Z 具有多元标准正态分布)和 预期 值:[eq36]

协方差矩阵

MV-N真人在线斗地主向量的协方差矩阵 X[eq37]

证明

这个 是以下事实的直接后果: $ X = 亩 + 西格玛 Z $ (哪里 Z 具有多元标准正态分布)和 除常数向量 乘以常数矩阵 属性 协方差 矩阵:[eq38]

关节力矩产生功能

MV-N真人在线斗地主向量的联合矩生成函数 X 为任何定义 $锡U {211d} ^ {K} $:[eq39]

证明

这个 是以下事实的直接后果: $ X = 亩 + 西格玛 Z $ (哪里 Z 具有多元标准正态分布 西格玛 是一个 $ Kimes K $ 可逆矩阵使得 [eq40]) 以及推导线性联合mgf的规则 转型:[eq41]

联合特征函数

MV-N真人在线斗地主向量的联合特征函数 X[eq42]

证明

这个 是以下事实的直接后果: $ X = 亩 + 西格玛 Z $ (哪里 Z 具有多元标准正态分布 西格玛 是一个 $ Kimes K $ 可逆矩阵使得 [eq40]) 以及推导线性联合特征函数的规则 转型:[eq44]

更多细节

以下各节包含有关MV-N分发的更多详细信息。

单变量正态作为特殊情况

单变量正态分布只是多元的一种特殊情况 正态分布:设置 $K=1$ 多元正态分布的联合密度函数之一 获得单变量正态分布的密度函数(请记住 行列式和标量的转置等于标量 本身)。

相互独立的正常 真人在线斗地主变量共同正常

[eq45]K 相互独立的真人在线斗地主变量均具有正态分布。表示 通过 $ 亩 _ {i} $ 的平均值 X_i$ sigma _ {i} ^ {2} $ 它的方差。然后 Kx1 真人在线斗地主向量 X 定义的 如 [eq46]具有 均值的多元正态分布 [eq47]和 协方差矩阵 [eq48]

这可以通过证明概率密度的乘积来证明 的功能 [eq49] 等于的联合概率密度函数 X (这留作练习)。

阅读更多

以下讲座包含有关多元正态的更多材料 分配。

正态变量的线性组合

讨论MV-N真人在线斗地主向量的线性变换也是MV-N的事实

分区多元正态分布

讨论有关MV-N向量分割的一些事实

涉及正态变量的二次形式

讨论涉及MV-N向量的二次形式的分布

解决的练习

您可以在下面找到一些练习,其中包含已说明的解决方案。

练习1

[eq50] 是具有均值的多元正态真人在线斗地主向量 [eq51]和 协方差 矩阵[eq52]证明 那真人在线斗地主 变量[eq53]具有 正态分布,均值等于 $3$ 和方差等于 $7$.

提示:使用关节力矩生成功能 X 及其属性。

真人在线斗地主变量 Y 可以写 如 [eq54]哪里 [eq55]

使用公式计算 共同时刻 向量的线性变换的生成函数 [eq56]和 多元正态向量的mgf的事实 X[eq57]我们 获得 [eq58]哪里, 在最后一步中,我们还使用了以下事实: $ t $ 是标量,因为 Y 是一维的。 现在[eq59][eq60]堵塞 刚获得的公式的mgf值 Y, 我们 得到[eq61]但 这是具有均值的正常真人在线斗地主变量的矩生成函数 等于 $3$ 和方差等于 $7$ (请参阅标题为“ 正态分布)。 因此, Y 是平均值等于的正常真人在线斗地主变量 $3$ 和方差等于 $7$ (请记住,发行版完全由其时刻来表征 生成函数)。

练习2

[eq62] 是具有均值的多元正态真人在线斗地主向量 [eq63]和 协方差 矩阵[eq64]使用 关节力矩产生函数 X, 得出 交叉时刻[eq65]

的联合mgf X[eq66]的 我们要计算的三阶交叉矩等于第三部分 mgf的导数,在 零:[eq67]的 偏导数 是[eq68]

从而,[eq69]

如何引用

请引用为:

Taboga, Marco (2017). "多元正态分布", 列克特ures on probability 的ory 和 mathematical statistics, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/probability-distributions/multivariate-normal-distribution.

这本书

该网站上提供的大多数学习材料现在都以传统教科书格式提供。