搜索Statlect上的概率和统计信息
统计章程
指数 > 概率分布

Wishart分布

经过 ,博士学位

这次讲座处理Wishart分布,这是一个多变量 概括的 Gamma distribution.

在以前的讲座中,我们解释说:

  1. a Chi-Square随机变量 with n 可以看到自由度可以被视为一个平方和 n 具有平均值0和方差1的独立正常随机变量;

  2. 具有参数的伽马随机变量 n and $ h $ 可以被视为一定的平方和 n 具有平均值0和方差的独立正常随机变量 $ h / n $.

A Wishart 随机的 matrix with parameters n and H 可以被视为外部产品的总和 n independent 多变量正常随机载体 具有平均值0和协方差矩阵 $ frac {1} {n} h $. 从这个意义上讲,Wishart分布可以被认为是概括的 伽玛分布(以上面的表格2拍摄并替换正常随机 具有多变量正常随机向量的变量,外部产品的正方形 and the variance $ h / n $ 与协方差矩阵 $ frac {1} {n} h $)。

在此页面底部,您可以找到一些简短的评论 矩阵代数的基本概念 那 will be 有助于了解这次讲座的其余部分。

目录

定义

Wishart随机矩阵的特征如下。

定义 $ w $ be a $ kimes k $ 连续随机矩阵。让它 support 是 the set of all $ kimes k $ 对称和积极的真实 matrices:[eq1]H 是一个对称和正面的矩阵和 $n>K-1$. We say that $ w $ has a Wishart分布 和 parameters n and H if its joint 概率密度函数 is[eq2]在哪里[eq3][eq4] is the Gamma function.

The parameter n 不需要是整数,但是,何时 n is not an integer, $ w $ 不能再被解释为多元正常的外部产品的总和 random vectors.

与多元正态分布的关系

以下命题提供多元正常之间的链接 分配和Wishart分布。

主张 Let [eq5] be n independent Kx1 随机载体均具有多变量的正态分布,其平均值 0 和协方差矩阵 $ frac {1} {n} h $. Let $ kleq n $. Define[eq6]然后 $ w $ 有一个愿望分发参数 n and H.

证明

这个命题的证明是相当的 漫长而复杂。感兴趣的读者可能会看看 Ghosh and Sinha (2002).

期望值

The expected value Wishart随机矩阵 $ w $ is[eq7]

证明

我们 不要提供完全一般的证据,但我们只证明这一结果 特殊情况 n is integer and $ w $ can be written as[eq8](看 上述款)。在这种情况下,我们有 that[eq9]在哪里 我们使用了协方差矩阵的事实 X can be written as[eq10](看 the lecture entitled Covariance matrix)。

协方差矩阵

协方差矩阵的概念仅限于随机向量。 但是,在处理随机矩阵时,人们可能想要计算 其相关矢量化的协方差矩阵(如果您不熟悉 随着矢量化的概念,看看 review of matrix algebra 下面是一个定义)。因此,在a的情况下 Wishart随机矩阵 $ w $, 我们可能希望计算以下协方差 matrix:[eq11]

Since [eq12], the vectorization of $ w $, is a $ k ^ {2} IMES 1 $ random vector, V is a $ k ^ {2} imes k ^ {2} $ matrix.

有可能证明 that[eq13]在哪里 $ OTImes $ 表示Kronecker产品和 [eq14] 是转置 - 置换矩阵与之相关联 [eq15] (see the 矩阵代数综述 below for a definition).

证明

该公式的证明可以找到 Muirhead (2005).

对角线条目之间的CovariRce有一个简单的表达式 of $ w $: [eq16]

证明

再次,我们不提供完全一般 证明,但我们只针对特殊情况证明这一结果 n is integer and $ w $ can be written as[eq8](看 以上)。要计算此协方差,我们首先需要计算以下内容 fourth cross-moment:[eq18]在哪里 $ x_ {si} $ denotes the i - component ($ i = 1,LDOTS,K $) of the random vector $ x_ {s} $ ($ s = 1,ldots,n $)。 这种跨时刻可以通过采用第四次横偏执来计算 联合力矩产生功能的衍生物 $ x_ {si} $ and $ x_ {sj} $ 并评估它零(见题为有权的讲座 联合力矩产生功能)。尽管 这并不复杂,代数非常乏味。我建议这样做 使用计算机代数,例如利用MATLAB符号工具箱和 以下四个命令:

syms t1 t2 s1 s2 s12;

f=exp(0.5*(s1^2)*(t1^2)+0.5*(s2^2)*(t2^2)+s12*t1*t2);

d4f=diff(diff(f,t1,2),t2,2);

subs(d4f,{t1,t2},{0,0})

计算结果 is[eq19]使用 这结果,之间的协方差 $ w_ {ii} $ and $ w_ {jj} $ is derived as follows:[eq20]

矩阵代数综述

本节审查用于处理的Matrix代数的结果 随着Wishart分布。

外产品

随着Wishart分布涉及多元正常的外产品 随机向量,我们简要介绍了外部产品的概念。

If X is a Kx1 column vector, the 外产品 of X with itself is the $ kimes k $ matrix A 从乘法中获得 X with its transpose:[eq21]

例子 If X is the $ 2倍1美元 random vector[eq22]然后 its outer product $ xx ^ {op} $ is the $ 2 $ 2 $ random matrix[eq23]

对称矩阵

A $ kimes k $ matrix A is 对称 如果 and only if[eq24]IE。 if and only if A 等于转置。

正定的矩阵

A $ kimes k $ matrix A is said to be 积极的确定 如果和只是 if [eq25]为了 any Kx1 real vector x such that $x
eq 0$.

所有积极的矩阵也是可逆的。

证明

证据是矛盾的。假设A. 正定的矩阵 A 不可逆转。然后 A 不会是全级别,即将有向量 $x
eq 0$ such that[eq26]哪一个, premultiplied by $ x ^ {op} $, would yield[eq27]但 这是一个矛盾。

矩阵

Let A be a $ kimes k $ matrix and denote by $ a_ {ij} $ the $left( i,j
ight) $ - entry of A (即进入交叉点 i - row and the $ j $ - column). The 痕迹 of A, denoted by [eq28], 是所有对角线条目的总和 A:[eq29]

矩阵的矢量化

Given a $ kimes l $ matrix A, its 矢量化,表示 [eq30], is the $ klimes 1 $ 通过堆叠列获得的矢量 A 在彼此之上。

例子 If A is a $ 2 $ 2 $ matrix[eq31]这 vectorization of A is the $ 4倍1美元 random vector[eq32]

For a given matrix A, the vectorization of A 一般会与转移的矢量化不同 $ a ^ {op} $. The 换位置换矩阵 associated to [eq33] is the $ klimes kl $ matrix [eq34] such that[eq35]

克朗伯克产品

Given a $ kimes l $ matrix A and a $ mimes n $ matrix $ b $, the 克朗伯克产品 of A and $ b $, denoted by $ aotimes b $, is a $ kmimes ln $ 具有以下内容的矩阵 structure:[eq36]在哪里 $ a_ {ij} $ is the $left( i,j
ight) $ - entry of A.

参考

Ghosh,M.和Sinha,B. K.(2002)“一个简单的推导 Wishart分布“, 美国统计学家, 56, 100-101.

muirhead,r.j. (2005) 的方面 多变量统计理论,Wiley。

如何引用

请引用:

Taboga, Marco (2017). "Wishart分布", Lectures on probability theory and mathematical statistics, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/probability-distributions/wishart-distribution.

这本书

本网站上发现的大多数学习材料现在都以传统的教科书格式提供。