在Statlect上搜索概率和统计术语
统计列克特
指数 > 渐近理论

概率收敛

通过 博士

本讲座讨论概率收敛,首先针对 随机变量,然后是随机向量序列。

目录

一系列随机变量的概率收敛

正如我们在名为“ 顺序 变量及其收敛性,不同的概念 收敛基于测量两个之间距离的不同方法 随机变量 (如何“彼此靠近”两个 随机变量)。

概率收敛的概念基于以下直觉: 如果有很高的可能性,则两个随机变量“彼此接近” 他们的差别很小。

[eq1] 成为 定义的随机变量序列 一个样本空间 欧米茄. 让 X 是一个随机变量, ε 一个严格的正数。

考虑以下 可能性:[eq2]

凭直觉 X_n 被认为远离 X 什么时候 [eq3]; 因此, [eq4]X_n 离...很远 X.

如果 [eq1] 收敛到 X, [eq4] 应该变得越来越小 n 增加。换句话说, X_n 离...很远 X 应该在什么时候变为零 n 增加。

正式地,我们应该 有[eq7]

注意 [eq8] 是一个实数序列。因此,上述限制是通常的限制 实数序列

此外,条件 [eq9] 应该满足任何 ε (也适用于非常小的 ε, 这意味着我们在决定是否 X_n 离...很远 X)。 这使我们得出以下收敛的定义。

定义 [eq1] 是在样本空间上定义的随机变量序列 欧米茄. 我们说 [eq1]概率收敛 随机变量 X 定义于 欧米茄 当且仅 如果[eq12]对于 任何 $ arepsilon>0$. X 被称为 概率极限 的顺序和 表明收敛 通过[eq13]要么 通过[eq14]

以下示例说明了概率收敛的概念。

X 成为 离散随机 变量 支持 [eq15] 概率质量 功能[eq16]考虑 一系列随机变量 [eq1] 其通用术语 是[eq18]我们 想证明 [eq1] 收敛到 $ X $. 采取任何 $ arepsilon>0$. 注意 [eq20]什么时候 $X=0$, 发生的可能性 $ frac {2} {3} $, 我们有 那[eq21]和, 当然, [eq22]. 什么时候 $X=1$, 发生的可能性 $ frac {1} {3} $, 我们有 那[eq23][eq22] 除非 [eq25] (或仅当 [eq26])。 因此,[eq27][eq28]从而, [eq29] 收敛到 0, 因为对于所有而言,它等于零 n 这样 [eq26]. 以来 ε 是任意的,我们获得了预期的结果: [eq31]对于 任何 $ arepsilon>0$.

概率收敛 随机向量序列

上面的收敛概念可以概括为 直截了当的方式。

[eq1] 成为 定义在 样本空间 欧米茄, 每个随机向量 X_n 有尺寸 Kx1.

在随机变量的情况下,随机变量的序列 [eq33] 且仅当且仅当概率收敛 [eq34]对于 任何 $ arepsilon>0$, 哪里 [eq35] 是个 距离X_nX.

对于随机向量,概率收敛的定义 保持不变,但距离是通过 两者之间的区别 向量:[eq36]哪里 第二个下标用于指示 向量 [eq37][eq38].

以下是正式定义。

定义 [eq1] 在样本空间上定义 欧米茄. 我们说 [eq1]概率收敛 到随机向量 X 定义于 欧米茄 当且仅 如果[eq41]对于 任何 $ arepsilon>0$. X 被称为 概率极限 的顺序和 表明收敛 通过[eq13]要么 通过[eq14]

现在,用 [eq44] 的顺序 i-th 向量的组成部分 X_n. 可以证明 [eq1] 当且仅当所有 K 随机变量序列 [eq44] 概率收敛。

主张[eq1] 在样本空间上定义 欧米茄. 表示为 [eq44] 通过取 i-th 每个随机向量的分量 X_n. 序列 [eq1] 概率收敛到随机向量 X 当且仅当序列 [eq50] 概率收敛到随机变量 $ X_ {ullet,i} $i-th 的组成部分 X) 每个 $ i = 1,ldots,K $.

解决的练习

您可以在下面找到一些练习,其中包含已说明的解决方案。

练习1

美元 成为 随机变量 有一个 均匀分布 在间隔 $ left [0,1
权] $. 换一种说法, 美元 是一个 连续 随机变量 与 支持[eq51]和 概率密度 功能[eq52]现在, 定义随机变量序列 [eq1] 如 如下:[eq54]哪里 [eq55] 是个 指标功能 事件的 [eq56].

查找序列的概率极限(如果存在) [eq57].

通用术语 X_n 作为指标函数的序列的只能采用两个值:

根据以前的不平等, $ m $ 变为无穷大 n 去无穷大 和[eq62]因此, 的概率 X_n 等于零收敛到 1n 去无穷大。所以,显然 [eq1] 概率收敛到恒定随机 变量[eq64]因为, 对于任何 $ arepsilon>0$,[eq65]

练习2

上一练习中的顺序是否也 几乎肯定会收敛?

我们可以确定 样本空间 欧米茄 在...的支持下 美元:[eq66]和 的 样本点 欧米茄中的欧米茄 随着...的实现 美元: 即当实现是 $ U = u $, 然后 $ 欧米茄 = u $. 几乎可以肯定,融合需要 那[eq67]哪里 E 是一个 零概率事件 和 上标 $ c $ 表示集合的补数。换句话说,样本点集 欧米茄 顺序 [eq68] 不收敛于 [eq38] 必须包含在零概率事件中 E. 在我们的案例中,很容易看出,对于任何固定的采样点 [eq70], 序列 [eq71] 不收敛于 [eq72], 因为序列中的无穷多个项等于 1. 因此,[eq73]和, 琐碎地讲,不存在包括集合在内的零概率事件 [eq74]从而, 该序列几乎不能肯定地收敛到 X.

练习3

[eq1] 豆角,扁豆 IID序列 连续的 具有均匀分布的随机变量 支持[eq76]和 概率密度 功能[eq77]

查找序列的概率极限(如果存在) [eq57].

n 趋于无穷大,概率密度趋于集中在 重点 $x=0$. 因此,可以推测该序列 [eq1] 概率收敛到恒定随机 变量[eq64]至 严格验证此声明,我们需要使用的正式定义 概率收敛。对于任何 $ arepsilon>0$,[eq81]

如何引用

请引用为:

Taboga, Marco (2017). "概率收敛 ", 列克特ures on 可能性 的ory 和 mathematical statistics, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/asymptotic-theory/convergence-in-probability.

这本书

该网站上提供的大多数学习材料现在都以传统教科书格式提供。