在Statlect上搜索概率和统计术语
统计列克特
指数 > 概率分布

Wishart发行

通过 博士

本讲座涉及Wishart分布,它是一个多变量 概括 伽玛分布.

在以前的讲座中,我们已经解释了:

  1. a 卡方随机变量n 自由度可以看成是 n 具有均值0和方差1的独立正态随机变量;

  2. 具有参数的Gamma随机变量 n$ h $ 可以看成是 n 具有均值0和方差的独立正态随机变量 $ h / n $.

怀沙特 随机矩阵 与 参数 nH 可以看成是 n 独立 多元正态随机向量 具有均值0和协方差矩阵 $ frac {1} {n} H $. 从这个意义上讲,Wishart分布可以被认为是 Gamma分布(取第2点并替换法线随机 具有多元正态随机向量的变量,具有外积的平方 和方差 $ h / n $ 与协方差矩阵 $ frac {1} {n} H $)。

在此页面的底部,您可以找到一些简短的评论 矩阵代数的基本概念 那将是 有助于理解本讲座的其余部分。

目录

定义

Wishart随机矩阵的特征如下。

定义 $ W $ 成为 $ Kimes K $ 连续随机矩阵。让它 支持 被设置 在所有 $ Kimes K $ 对称正定实 矩阵:[eq1]H 是一个对称正定矩阵 $n>K-1$. 我们说 $ W $ 有一个 Wishart发行 带参数 nH 如果它是 联合 概率密度函数[eq2]哪里[eq3][eq4] 是个 伽玛功能.

参数 n 不需要是整数,但是,当 n 不是整数, $ W $ 不能再解释为多元正态外积之和 随机向量。

与多元正态分布的关系

以下命题提供了多元正态之间的联系 分布和Wishart分布。

主张[eq5]n 独立 Kx1 均具有多元正态分布且均值的随机向量 0 和协方差矩阵 $ frac {1} {n} H $. 让 $ Kleq n $. 定义[eq6]然后 $ W $ 具有参数的Wishart分布 nH.

证明

这个主张的证明是相当 冗长而复杂。感兴趣的读者可以看看 戈什和辛哈 (2002).

期望值

期望值 Wishart随机矩阵 $ W $[eq7]

证明

我们 没有提供完整的一般性证明,但我们仅针对 特殊情况下 n 是整数, $ W $ 可以写 如 [eq8](看到 以上小节)。在这种情况下,我们有 那[eq9]哪里 我们使用了这样一个事实,即 X 可以写 如 [eq10](看到 演讲题目 协方差 矩阵)。

协方差矩阵

仅对随机向量定义了协方差矩阵的概念。 但是,在处理随机矩阵时,可能需要计算 相关向量化的协方差矩阵(如果您不熟悉 关于向量化的概念,请参见 评论 矩阵代数 下面的定义)。因此,在 Wishart随机矩阵 $ W $, 我们可能要计算以下协方差 矩阵:[eq11]

以来 [eq12], 向量化 $ W $, 是一个 $ K ^ {2} imes 1 $ 随机向量 V 是一个 $ K ^ {2} imes K ^ {2} $ 矩阵。

有可能证明 那[eq13]哪里 $ otimes $ 表示Kronecker产品, [eq14] 是与关联的转置置换矩阵 [eq15] (请参阅 矩阵代数复习 在下面 定义)。

证明

这个公式的证明可以在 缪尔黑德(2005).

对角项之间的协方差有一个更简单的表达式 的 $ W $: [eq16]

证明

同样,我们没有提供全面的 证明,但我们仅在以下特殊情况下证明此结果: n 是整数, $ W $ 可以写 如 [eq8](看到 以上)。要计算此协方差,我们首先需要计算以下内容 第四 交叉时刻:[eq18]哪里 $ X_ {si} $ 表示 i-th 零件 ($ i = 1,ldots,K $) 随机向量 $ X_ {s} $ ($ s = 1,ldots,n $)。 可以通过取第四个横截面来计算这个跨矩 关节力矩产生函数的导数 $ X_ {si} $$ X_ {sj} $ 并将其评估为零(请参阅标题为“ 关节力矩产生功能)。而 这并不复杂,代数相当繁琐。我建议这样做 使用计算机代数,例如利用Matlab Symbolic Toolbox和 以下四个命令:

syms t1 t2 s1 s2 s12;

f=exp(0.5*(s1^2)*(t1^2)+0.5*(s2^2)*(t2^2)+s12*t1*t2);

d4f=diff(diff(f,t1,2),t2,2);

subs(d4f,{t1,t2},{0,0})

计算结果 是[eq19]使用 这个结果之间的协方差 $ W_ {ii} $$ W_ {jj} $ 导出为 如下:[eq20]

矩阵代数复习

本节回顾了矩阵代数的一些结果,这些结果用于处理 与Wishart发行。

外部产品

由于Wishart分布涉及多元正态的外部产品 随机向量,我们在这里简要回顾一下外部积的概念。

如果 X 是一个 Kx1 列向量 外部产品X 本身就是 $ Kimes K $ 矩阵 A 从...的乘法获得 X 与它 转置:[eq21]

如果 X 是个 $ 2imes 1 $ 随机 向量[eq22]然后 它的外在产物 $ XX ^ {op} $ 是个 2元2元 随机 矩阵[eq23]

对称矩阵

A $ Kimes K $ 矩阵 A对称的 当且仅 如果[eq24]即 当且仅当 A 等于其转置。

正定矩阵

A $ Kimes K $ 矩阵 A 据说是 正定 当且仅当 [eq25]对于 任何 Kx1 实向量 x 这样 $x
eq 0$.

所有正定矩阵也是可逆的。

证明

证明是矛盾的。假设一个 正定矩阵 A 不可逆转。然后 A 不会是全等级,即会有一个向量 $x
eq 0$ 这样 那[eq26]哪一个, 预乘 $ x ^ {op} $, 将 让[eq27]但 这是一个矛盾。

矩阵的痕迹

A 成为 $ Kimes K $ 矩阵并用 $ A_ {ij} $$left( i,j
ight) $-th 进入 A (即, i-th 行和 $ j $-th 柱)。的 跟踪A, 表示为 [eq28], 是的所有对角线项的总和 A:[eq29]

矩阵的向量化

给定一个 $ Kimes L $ 矩阵 A, 它的 向量化,表示为 [eq30], 是个 $ KLimes 1 $ 通过堆叠列获得的向量 A 在彼此之上。

如果 A 是一个 2元2元 矩阵[eq31]的 向量化 A 是个 $ 4imes 1 $ 随机 向量[eq32]

对于给定的矩阵 A, 向量化 A 通常将不同于其转置的向量化 $ A ^ {op} $. 的 转置置换矩阵 关联到 [eq33] 是个 $ KLimes KL $ 矩阵 [eq34] 这样 那[eq35]

克罗内克产品

给定一个 $ Kimes L $ 矩阵 A 和一个 $ Mimes N $ 矩阵 $ B $, 的 克罗内克产品A$ B $, 表示为 $澳元B $, 是一个 $ KMimes LN $ 具有以下矩阵 结构体:[eq36]哪里 $ A_ {ij} $ 是个 $left( i,j
ight) $-th 进入 A.

参考文献

Ghosh,M.和Sinha,B. K.(2002)“ Wishart发行”, 美国统计学家, 56,100-101。

缪尔黑德(R.J. (2005年) 的方面 多元统计理论,威利。

如何引用

请引用为:

Taboga, Marco (2017). "Wishart发行", 列克特ures on probability 的ory 和 mathematical statistics, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/probability-distributions/wishart-distribution.

这本书

该网站上提供的大多数学习材料现在都以传统教科书格式提供。