本讲座讨论概率收敛,首先针对 随机变量,然后是随机向量序列。
正如我们在名为“ 顺序 变量及其收敛性,不同的概念 收敛基于测量两个之间距离的不同方法 随机变量 (如何“彼此靠近”两个 随机变量)。
概率收敛的概念基于以下直觉: 如果有很高的可能性,则两个随机变量“彼此接近” 他们的差别很小。
让
成为 定义的随机变量序列
一个样本空间
.
让
是一个随机变量,
一个严格的正数。
考虑以下
可能性:
凭直觉
被认为远离
什么时候
;
因此,
是
离...很远
.
如果
收敛到
,
应该变得越来越小
增加。换句话说,
离...很远
应该在什么时候变为零
增加。
正式地,我们应该
有
注意
是一个实数序列。因此,上述限制是通常的限制
实数序列
此外,条件
应该满足任何
(也适用于非常小的
,
这意味着我们在决定是否
离...很远
)。
这使我们得出以下收敛的定义。
以下示例说明了概率收敛的概念。
例
让
成为 离散随机
变量 与
支持
和 概率质量
功能
考虑
一系列随机变量
其通用术语
是
我们
想证明
收敛到
.
采取任何
.
注意
什么时候
,
发生的可能性
,
我们有
那
和,
当然,
.
什么时候
,
发生的可能性
,
我们有
那
和
除非
(或仅当
)。
因此,
和
从而,
收敛到
,
因为对于所有而言,它等于零
这样
.
以来
是任意的,我们获得了预期的结果:
对于
任何
.
上面的收敛概念可以概括为 直截了当的方式。
让
成为 定义在
样本空间
,
每个随机向量
有尺寸
.
在随机变量的情况下,随机变量的序列
且仅当且仅当概率收敛
对于
任何
,
哪里
是个 距离 的
从
.
对于随机向量,概率收敛的定义
保持不变,但距离是通过
两者之间的区别
向量:哪里
第二个下标用于指示
向量
和
.
以下是正式定义。
现在,用
的顺序
-th
向量的组成部分
.
可以证明
当且仅当所有
随机变量序列
概率收敛。
主张
让
在样本空间上定义
.
表示为
通过取
-th
每个随机向量的分量
.
序列
概率收敛到随机向量
当且仅当序列
概率收敛到随机变量
(
-th
的组成部分
)
每个
.
您可以在下面找到一些练习,其中包含已说明的解决方案。
让
成为 随机变量 有一个
均匀分布 在间隔
.
换一种说法,
是一个 连续
随机变量 与
支持
和
概率密度
功能
现在,
定义随机变量序列
如
如下:
哪里
是个 指标功能 事件的
.
查找序列的概率极限(如果存在)
.
通用术语
作为指标函数的序列的只能采用两个值:
它可以带来价值
与
可能性
哪里
是一个整数
满意的
和
是一个整数
满意的
它可以带来价值
与
可能性
根据以前的不平等,
变为无穷大
去无穷大
和
因此,
的概率
等于零收敛到
如
去无穷大。所以,显然
概率收敛到恒定随机
变量
因为,
对于任何
,
上一练习中的顺序是否也 几乎肯定会收敛?
我们可以确定
样本空间
在...的支持下
:
和
的 样本点
随着...的实现
:
即当实现是
,
然后
.
几乎可以肯定,融合需要
那
哪里
是一个 零概率事件 和
上标
表示集合的补数。换句话说,样本点集
顺序
不收敛于
必须包含在零概率事件中
.
在我们的案例中,很容易看出,对于任何固定的采样点
,
序列
不收敛于
,
因为序列中的无穷多个项等于
.
因此,
和,
琐碎地讲,不存在包括集合在内的零概率事件
从而,
该序列几乎不能肯定地收敛到
.
让
豆角,扁豆 IID序列 连续的
具有均匀分布的随机变量
支持
和
概率密度
功能
查找序列的概率极限(如果存在)
.
如
趋于无穷大,概率密度趋于集中在
重点
.
因此,可以推测该序列
概率收敛到恒定随机
变量
至
严格验证此声明,我们需要使用的正式定义
概率收敛。对于任何
,
请引用为:
Taboga, Marco (2017). "概率收敛 ", 列克特ures on 可能性 的ory 和 mathematical statistics, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/asymptotic-theory/convergence-in-probability.