本讲座涉及Wishart分布,它是一个多变量 概括 伽玛分布.
在以前的讲座中,我们已经解释了:
a 卡方随机变量 与
自由度可以看成是
具有均值0和方差1的独立正态随机变量;
具有参数的Gamma随机变量
和
可以看成是
具有均值0和方差的独立正态随机变量
.
怀沙特 随机矩阵 与
参数
和
可以看成是
独立 多元正态随机向量
具有均值0和协方差矩阵
.
从这个意义上讲,Wishart分布可以被认为是
Gamma分布(取第2点并替换法线随机
具有多元正态随机向量的变量,具有外积的平方
和方差
与协方差矩阵
)。
在此页面的底部,您可以找到一些简短的评论 矩阵代数的基本概念 那将是 有助于理解本讲座的其余部分。
Wishart随机矩阵的特征如下。
定义
让
成为
连续随机矩阵。让它
支持 被设置
在所有
对称正定实
矩阵:
让
是一个对称正定矩阵
.
我们说
有一个 Wishart发行 带参数
和
如果它是 联合
概率密度函数
是
哪里
和
是个 伽玛功能.
参数
不需要是整数,但是,当
不是整数,
不能再解释为多元正态外积之和
随机向量。
以下命题提供了多元正态之间的联系 分布和Wishart分布。
主张
让
是
独立
均具有多元正态分布且均值的随机向量
和协方差矩阵
.
让
.
定义
然后
具有参数的Wishart分布
和
.
这个主张的证明是相当 冗长而复杂。感兴趣的读者可以看看 戈什和辛哈 (2002).
的 期望值 Wishart随机矩阵
是
我们
没有提供完整的一般性证明,但我们仅针对
特殊情况下
是整数,
可以写
如
(看到
以上小节)。在这种情况下,我们有
那
哪里
我们使用了这样一个事实,即
可以写
如
(看到
演讲题目 协方差
矩阵)。
仅对随机向量定义了协方差矩阵的概念。
但是,在处理随机矩阵时,可能需要计算
相关向量化的协方差矩阵(如果您不熟悉
关于向量化的概念,请参见 评论
矩阵代数 下面的定义)。因此,在
Wishart随机矩阵
,
我们可能要计算以下协方差
矩阵:
以来
,
向量化
,
是一个
随机向量
是一个
矩阵。
有可能证明
那哪里
表示Kronecker产品,
是与关联的转置置换矩阵
(请参阅 矩阵代数复习 在下面
定义)。
这个公式的证明可以在 缪尔黑德(2005).
对角项之间的协方差有一个更简单的表达式
的
:
同样,我们没有提供全面的
证明,但我们仅在以下特殊情况下证明此结果:
是整数,
可以写
如
(看到
以上)。要计算此协方差,我们首先需要计算以下内容
第四
交叉时刻:
哪里
表示
-th
零件
(
)
随机向量
(
)。
可以通过取第四个横截面来计算这个跨矩
关节力矩产生函数的导数
和
并将其评估为零(请参阅标题为“
关节力矩产生功能)。而
这并不复杂,代数相当繁琐。我建议这样做
使用计算机代数,例如利用Matlab Symbolic Toolbox和
以下四个命令:
syms t1 t2 s1 s2 s12;
f=exp(0.5*(s1^2)*(t1^2)+0.5*(s2^2)*(t2^2)+s12*t1*t2);
d4f=diff(diff(f,t1,2),t2,2);
subs(d4f,{t1,t2},{0,0})
计算结果
是使用
这个结果之间的协方差
和
导出为
如下:
本节回顾了矩阵代数的一些结果,这些结果用于处理 与Wishart发行。
由于Wishart分布涉及多元正态的外部产品 随机向量,我们在这里简要回顾一下外部积的概念。
如果
是一个
列向量 外部产品 的
本身就是
矩阵
从...的乘法获得
与它
转置:
例
如果
是个
随机
向量
然后
它的外在产物
是个
随机
矩阵
A
矩阵
是 对称的 当且仅
如果
即
当且仅当
等于其转置。
A
矩阵
据说是 正定 当且仅当
对于
任何
实向量
这样
.
所有正定矩阵也是可逆的。
证明是矛盾的。假设一个
正定矩阵
不可逆转。然后
不会是全等级,即会有一个向量
这样
那
哪一个,
预乘
,
将
让
但
这是一个矛盾。
让
成为
矩阵并用
的
-th
进入
(即,
-th
行和
-th
柱)。的 跟踪 的
,
表示为
,
是的所有对角线项的总和
:
给定一个
矩阵
,
它的 向量化,表示为
,
是个
通过堆叠列获得的向量
在彼此之上。
例
如果
是一个
矩阵
的
向量化
是个
随机
向量
对于给定的矩阵
,
向量化
通常将不同于其转置的向量化
.
的 转置置换矩阵 关联到
是个
矩阵
这样
那
给定一个
矩阵
和一个
矩阵
,
的 克罗内克产品 的
和
,
表示为
,
是一个
具有以下矩阵
结构体:
哪里
是个
-th
进入
.
Ghosh,M.和Sinha,B. K.(2002)“ Wishart发行”, 美国统计学家, 56,100-101。
缪尔黑德(R.J. (2005年) 的方面 多元统计理论,威利。
请引用为:
Taboga, Marco (2017). "Wishart发行", 列克特ures on probability 的ory 和 mathematical statistics, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/probability-distributions/wishart-distribution.