Wishart分布

经过 Marco Taboga.，博士学位

这次讲座处理Wishart分布，这是一个多变量概括的 Gamma distribution.

在以前的讲座中，我们解释说：

a Chi-Square随机变量 with 可以看到自由度可以被视为一个平方和具有平均值0和方差1的独立正常随机变量;
具有参数的伽马随机变量 and 可以被视为一定的平方和具有平均值0和方差的独立正常随机变量 .

A Wishart 随机的 matrix with parameters and 可以被视为外部产品的总和 independent 多变量正常随机载体具有平均值0和协方差矩阵 $frac {1} {n} h$ . 从这个意义上讲，Wishart分布可以被认为是概括的伽玛分布（以上面的表格2拍摄并替换正常随机具有多变量正常随机向量的变量，外部产品的正方形 and the variance 与协方差矩阵 $frac {1} {n} h$ ）。

在此页面底部，您可以找到一些简短的评论矩阵代数的基本概念那 will be 有助于了解这次讲座的其余部分。

定义
与多元正态分布的关系
期望值
协方差矩阵
矩阵代数综述

外产品
对称矩阵
正定的矩阵
矩阵
矩阵的矢量化
克朗伯克产品

参考

定义

Wishart随机矩阵的特征如下。

定义让 be a 连续随机矩阵。让它 support 是 the set of all 对称和积极的真实 matrices:让是一个对称和正面的矩阵和 . We say that has a Wishart分布 和 parameters and if its joint 概率密度函数 is [eq2] 在哪里 [eq3] 和 is the Gamma function.

The parameter 不需要是整数，但是，何时 is not an integer, 不能再被解释为多元正常的外部产品的总和 random vectors.

与多元正态分布的关系

以下命题提供多元正常之间的链接分配和Wishart分布。

主张 Let be independent 随机载体均具有多变量的正态分布，其平均值和协方差矩阵 $frac {1} {n} h$ . Let . Define [eq6] 然后有一个愿望分发参数 and .

证明

这个命题的证明是相当的漫长而复杂。感兴趣的读者可能会看看 Ghosh and Sinha (2002).

期望值

The expected value Wishart随机矩阵 is

证明

我们不要提供完全一般的证据，但我们只证明这一结果特殊情况 is integer and can be written as [eq8] （看上述款）。在这种情况下，我们有 that [eq9] 在哪里我们使用了协方差矩阵的事实 can be written as（看 the lecture entitled Covariance matrix）。

协方差矩阵

协方差矩阵的概念仅限于随机向量。但是，在处理随机矩阵时，人们可能想要计算其相关矢量化的协方差矩阵（如果您不熟悉随着矢量化的概念，看看 review of matrix algebra 下面是一个定义）。因此，在a的情况下 Wishart随机矩阵 , 我们可能希望计算以下协方差 matrix:

Since , the vectorization of , is a $k ^ {2} IMES 1$ random vector, is a $k ^ {2} imes k ^ {2}$ matrix.

有可能证明 that在哪里表示Kronecker产品和是转置 - 置换矩阵与之相关联 (see the 矩阵代数综述 below for a definition).

证明

该公式的证明可以找到 Muirhead (2005).

对角线条目之间的CovariRce有一个简单的表达式 of :

证明

再次，我们不提供完全一般证明，但我们只针对特殊情况证明这一结果 is integer and can be written as [eq8] （看以上）。要计算此协方差，我们首先需要计算以下内容 fourth cross-moment:在哪里 $x_ {si}$ denotes the - component () of the random vector $x_ {s}$ (）。这种跨时刻可以通过采用第四次横偏执来计算联合力矩产生功能的衍生物 $x_ {si}$ and $x_ {sj}$ 并评估它零（见题为有权的讲座联合力矩产生功能）。尽管这并不复杂，代数非常乏味。我建议这样做使用计算机代数，例如利用MATLAB符号工具箱和以下四个命令：

syms t1 t2 s1 s2 s12;

f=exp(0.5*(s1^2)*(t1^2)+0.5*(s2^2)*(t2^2)+s12*t1*t2);

d4f=diff(diff(f,t1,2),t2,2);

subs(d4f,{t1,t2},{0,0})

计算结果 is [eq19] 使用这结果，之间的协方差 $w_ {ii}$ and $w_ {jj}$ is derived as follows: [eq20]

矩阵代数综述

本节审查用于处理的Matrix代数的结果随着Wishart分布。

外产品

随着Wishart分布涉及多元正常的外产品随机向量，我们简要介绍了外部产品的概念。

If is a column vector, the 外产品 of with itself is the matrix 从乘法中获得 with its transpose:

例子 If is the random vector [eq22] 然后 its outer product $xx ^ {op}$ is the random matrix [eq23]

对称矩阵

A matrix is 对称如果 and only ifIE。 if and only if 等于转置。

正定的矩阵

A matrix is said to be 积极的确定 如果和只是 if 为了 any real vector such that .

所有积极的矩阵也是可逆的。

证明

证据是矛盾的。假设A. 正定的矩阵不可逆转。然后不会是全级别，即将有向量 such that哪一个， premultiplied by $x ^ {op}$ , would yield但这是一个矛盾。

矩阵

Let be a matrix and denote by $a_ {ij}$ the - entry of （即进入交叉点 - row and the - column). The 痕迹 of , denoted by , 是所有对角线条目的总和 : [eq29]

矩阵的矢量化

Given a matrix , its 矢量化，表示 , is the 通过堆叠列获得的矢量在彼此之上。

例子 If is a matrix [eq31] 这 vectorization of is the random vector [eq32]

For a given matrix , the vectorization of 一般会与转移的矢量化不同 $a ^ {op}$ . The 换位置换矩阵 associated to is the matrix such that

克朗伯克产品

Given a matrix and a matrix , the 克朗伯克产品 of and , denoted by , is a 具有以下内容的矩阵 structure: [eq36] 在哪里 $a_ {ij}$ is the - entry of .

参考

Ghosh，M.和Sinha，B. K.（2002）“一个简单的推导 Wishart分布“，美国统计学家, 56, 100-101.

muirhead，r.j. （2005）的方面多变量统计理论，Wiley。

如何引用

请引用：

Taboga, Marco (2017). "Wishart分布", Lectures on probability theory and mathematical statistics, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/probability-distributions/wishart-distribution.