在Statlect上搜索概率和统计术语
统计列克特
指数 > 渐近理论

随机变量序列及其收敛

通过 博士

概率论和统计学的中心主题之一是对 随机变量序列,即 顺序 [eq1] 其通用元素 X_n 是一个 随机变量.

随机变量序列很重要的原因有几个:

  1. 通常,我们需要分析一个随机变量 X, 但由于某些原因 X 太复杂而无法直接分析。在这种情况下,我们通常要做的是 近似 X 通过简单的随机变量 X_n 更容易学习;这些近似随机变量被安排 成一个序列 [eq2] 他们变得越来越好 Xn 增加。这正是我们引入 勒贝格积分.

  2. 在统计理论中 X_n 通常是对未知量的估计,其数量和性质 取决于样本量 n (样本数量是用于计算估计值的观察值的数量)。 通常,我们能够分析 X_n 仅渐近地(即 n 趋于无穷大)。在这种情况下, [eq3] 是一个估计序列,我们分析 [eq1], 希望有一个大样本(我们观察到的样本)和一个无限样本 (我们通过限制 X_n) 有类似的行为。

  3. 在许多应用中,随时间反复观察到随机变量 (例如,每天观察股票价格)。在这种情况下 [eq1] 是对随机变量的观察序列,并且 n 是时间指数(在股票价格示例中, X_n 是观察到的价格 n-th 期)。

目录

术语

在本讲座中,我们介绍一些与随机序列有关的术语 变量。

序列的实现

[eq6] 是一个实数序列, [eq7] 一系列随机变量。如果实数 $ x_ {n} $ 是一个 实现 随机变量的 X_n 每一个 n, 那么我们说实数序列 [eq8] 是一个 序列的实现 随机变量 [eq1] 和我们 写[eq10]

样本空间上的序列

欧米茄 成为 样本空间。让 [eq1] 是随机变量序列。我们说 [eq1] 是一个 在样本空间上定义的随机变量序列 欧米茄 如果所有随机变量 X_n 属于序列 [eq1] 是功能 欧米茄R.

独立序列

[eq1] 是在样本空间上定义的随机变量序列 欧米茄. 我们说 [eq1] 是一个 随机变量的独立序列 (或序列 独立随机变量的集合) [eq1] (即,属于该序列的每个有限随机变量集)是 一套 相互独立的随机 变数.

相同分布的序列

[eq1] 是随机变量序列。表示为 [eq18] 分配功能 序列的通用元素 X_n. 我们说 [eq7] 是一个 同一分布的随机变量序列 如果 序列中的任何两个元素具有相同的分布 功能:[eq20]

IID序列

[eq1] 是在样本空间上定义的随机变量序列 欧米茄. 我们说 [eq1] 是一个 独立且均匀分布的随机序列 变数 (或IID随机变量序列),如果 [eq1] 都是 独立随机变量序列 和一个 同一分布的随机变量序列.

固定序列

[eq1] 是在样本空间上定义的随机变量序列 欧米茄. 参加第一组 $ q $ 序列的连续项 $ X_ {n + 1} $, ..., $ X_ {n + q} $. 现在再来第二组 $ q $ 序列的连续项 $ X_ {n + k + 1} $, ..., $ X_ {n + k + q} $. 第二组位于 k 第一组之后的位置。表示 联合分配 功能 第一组术语中的 通过[eq25]和 第二组术语的联合 通过[eq26]

序列 [eq1] 据说是 平稳的 (要么 严格地 平稳的)仅当 如果[eq28]对于 任何 $ n,k,qin U {2115} $ 对于任何向量 [eq29].

换句话说,当且仅当两个序列 随机向量 [eq30][eq31] 具有相同的分布(对于任何 n, k$ q $)。 要求严格平稳性比要求序列为IID弱 (看到 IID序列 以上):如果 [eq1] 是一个IID序列,那么它也是严格平稳的,反之则是 不一定是真的。

弱平稳序列

[eq1] 是在样本空间上定义的随机变量序列 欧米茄. 我们说 [eq1] 是一个 协方差平稳序列 (或微弱的静止 顺序) 如果[eq35]哪里 n$ j $ 当然是整数。

属性(1)表示所有属于该序列的随机变量 [eq36] 有相同的 意思.

属性(2)表示 协方差 之间 术语 X_n 的 所定位的序列和术语 $ j $ 在它之前的位置 ($ X_ {n-j} $) 无论如何 X_n 已被选中。换一种说法, [eq37] 仅取决于 $ j $ 而不是 n. 还要注意,属性(2)表示 顺序相同 方差 (请记住 [eq38]):[eq39]

请注意,严格平稳性(见上文)仅在以下情况下意味着弱平稳性: 均值 [eq40] 和所有的协方差 [eq41] 存在并且是有限的。显然,协方差平稳性并不意味着严格 平稳性(前者仅对第一和第二者施加限制 瞬间,而后者对整个发布施加了限制)。

混合顺序

[eq1] 是在样本空间上定义的随机变量序列 欧米茄. 凭直觉 [eq1] 是混合序列,如果该序列的任意两组术语相距较远 彼此之间几乎是独立的(而且 更接近独立)。

参加第一组 $ q $ 序列的连续项 $ X_ {n + 1} $, ..., $ X_ {n + q} $. 现在再来第二组 $ q $ 序列的连续项 $ X_ {n + k + 1} $, ..., $ X_ {n + k + q} $. 第二组位于 k 第一组之后的位置。如果以下两个术语是独立的, 并且只有在 [eq44]对于 任何两个功能 $ f $$ g $. 这只是两个随机向量之间独立性的定义 [eq45][eq46] (看到 相互独立的随机向量)。 上面的条件可以写成 如 [eq47]

如果此条件渐近为真(即 [eq48]), 那么我们说序列 [eq1] 正在混合。

定义 我们说一系列随机变量 [eq1]混合 (或强烈混合) 如果[eq51]对于 任何两个功能 $ f $$ g $ 和任何 n$ q $.

换句话说,当且仅当两个随机 向量 [eq30][eq53] 倾向于通过增加变得越来越独立 k (对于任何 n$ q $)。 这比独立性要求要温和一些(请参阅 独立序列 以上):如果 [eq1] 是一个独立的序列,其所有术语彼此独立;如果 [eq1] 是一个混合序列,它的项可以是依赖的,但是变得更少,并且 较少依赖于它们在序列中位置之间的距离 增加。当然,独立序列也是混合序列,而 相反,不一定是正确的。

遍历序列

在本节中,我们讨论遍历性。粗略地说,遍历性是一个弱项 随机变量序列的独立性的概念。

在上面的小节中,我们讨论了独立的其他两个概念 对于随机变量序列:

  1. 独立序列 是随机变量序列 其条款相互独立;

  2. 混合顺序 是随机变量序列 其术语可以是依赖的,但随着它们的依赖而变得越来越不依赖 距离增加(按距离,我们指的是它们在 顺序)。

要求要混合的序列比要求序列弱 要独立:实际上,一个独立的序列也在混合,但是 相反是不正确的。

要求遍历遍历比要求一个遍历更弱 顺序是混合(混合暗示遍历性,反之则不行)。这是 如果您不打算学习渐进理论,可能您需要知道的一切 高级,因为遍历性是一个非常复杂的主题, 遍历的定义是相当抽象的。不过,我们在这里给 为了完整性,快速定义遍历性。

表示为 [eq56] 所有可能的实数序列的集合。什么时候 [eq57] 是实数序列,表示为 [eq58] 通过舍弃第一项获得的子序列 [eq59], 那 是的[eq60]

我们说一个子集 [eq61] 是一个 位移不变 仅当且仅当设置 [eq62] 属于 A 每当 [eq59] 属于 A.

定义 一套 [eq61] 当且仅当移位不变 如果[eq65]

移位不变性用于定义遍历性:

定义 一系列随机变量 [eq1] 据说是 遍历序列 如果一个奥尔尼 如果[eq67]每当 A 是移位不变集。

收敛

正如我们在题为 极限 顺序,每当我们要评估序列是否收敛到一个 极限,我们需要定义一个距离函数(或度量)来测量 序列项之间的距离。直观地,序列收敛 如果通过删除足够多的初始项来限制 顺序,其余术语可以按照我们希望的那样彼此尽可能接近。 问题是如何定义“彼此靠近”。正如我们所解释的, 可以通过使用以下方式使“彼此接近”的概念变得十分严格。 指标的概念。因此,讨论随机序列的收敛 变量归结为讨论可以使用哪些指标来衡量 两个随机变量之间的距离。

融合方式

在接下来的讲座中,我们介绍几种不同的概念 一系列随机变量的收敛:针对每个不同的概念 对应于测量两个随机点之间距离的另一种方法 变量。

收敛的概念(也称为 收敛方式) 以下讲座介绍的是:

  1. 逐点收敛

  2. 几乎可以肯定的收敛

  3. 概率收敛

  4. 均方收敛.

  5. 分布趋同

如何引用

请引用为:

Taboga, Marco (2017). "随机变量序列及其收敛", 列克特ures on probability 的ory 和 mathematical statistics, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/asymptotic-theory/sequences-of-random-variables.

这本书

该网站上提供的大多数学习材料现在都以传统教科书格式提供。