大量法

经过 Marco Taboga. ，博士学位

大量法则（LLN）是一个提供一组的命题样本的收敛条件是恒定的。通常，常数是分布的预期值样本已经绘制。

样本意味着
弱法律

Chebyshev的大量法则
Chebyshev对相关序列的大量弱法

强烈的法律

Kolmogorov的大量规定
ergodic. 定理

随机载体的大数法则
解决练习

练习1

参考

样本意味着

Let be a 随机变量序列。让是第一个的样本意味着 terms of the sequence: [eq2]

A 大量法 （lln）说明一些条件足以保证融合常数，作为样本大小 increases.

通常，序列中的所有随机变量具有相同的预期价值 . 在这种情况下，样本平均会聚的常数是（称为人口意思）。但还有大量的法律哪个序列的条款不需要具有相同的预期值。在这些情况下，这是在本讲座中未治疗，样本意味着融合的常数是序列中各个条款的预期值的平均值 .

有几十个LLN。我们在下面举报一些重要的例子。

弱法律

A LLN is called a 虚弱的 大量法律（Wlln）如果 sample mean 汇聚概率。形容词使用弱弱，因为概率的融合通常被称为弱收敛性，并且它被用来分化强的大量的法律，其中样本意味着需要几乎肯定地融合。

Chebyshev的大量法则

可能，最着名的Wlln是Chebyshev的。

命题（Chebyshev's WLLN) Let 是一个不相关的和协方差静止 sequence: [eq8] 然后，大量的薄弱法适用于样本 mean: [eq9] 在哪里 denotes a 可能性 limit.

证明

样本的预期值是指 is [eq10] 这样本的差异是指 is [eq11] 现在 we can apply Chebyshev's inequality 至 the sample mean : [eq12] 为了 any （即，任何严格的实际数量）。插入预期值的值和上面导出的方差， we obtain [eq14] 自从 [eq15] 和然后 it must be that also 笔记这适用于任何任意小的 . By the very 收敛的定义 probability，这意味着收敛于概率（如果你想知道这里和弱势不平等概率融合的定义，请注意 implies 对于任何严格的积极态度）。

请注意，它习惯于陈述Chebyshev的弱点大量的法律导致概率的收敛性 sample mean: [eq9] 然而，上述定理的条件保证了 mean square convergence 样本意味着 :

证明

在上述证明 Chebyshev的Wlln，它被证明 that 和 that 这 implies that 作为 a consequence, 但这只是均线融合的定义 to .

因此，在Chebyshev的Wlln，收敛概率只是事实的结果平均方形的融合意味着收敛 probability.

Chebyshev的大量弱势相关序列的数字

Chebyshev的 WLLN sets forth the 要求序列的条款彼此有零协方差。通过放松这一要求并允许术语之间的一些相关性 sequence , Chebyshev的大量弱法则的更普通版本可以 obtained.

命题（Chebyshev的Wlln 相关序列） Let 是随机的协方差序列 variables: [eq29] 如果 协方差人士平均趋于为零，那是， if [eq30] 然后大量的薄弱法适用于样本 mean: [eq9]

证明

有一个完整的证明，例如，卡林和泰勒（1975年）。我们在这里给出一个证据基于考码人绝对的假设 summable: [eq32] 哪一个比在命题中所做的假设是更强的假设协方差人士平均趋于为零。样本的预期值是指 is [eq33] 这样本的差异是指 is [eq34] 笔记 that [eq35] 但协方差是绝对可取的，所以 that [eq36] 在哪里是一个有限的常数。 Therefore, 现在我们可以将Chebyshev的不等式应用于样本意味着 : [eq12] 为了 any （即，任何严格的实际数量）。插入预期值的值和上面导出的方差， we obtain [eq40] 自从 [eq41] 和然后 it must be that also 笔记这适用于任何任意小的 . 通过概率的收敛定义，这意味着收敛于概率（如果你想知道这里和弱势不平等概率融合的定义，请注意 implies 对于任何严格的积极态度）。

也是Chebyshev的大量规律结果已阐述相关序列对收敛的结果样本的概率 mean: [eq9] 然而，上述定理的条件也保证了均匀的平方收敛样本意味着 :

证明

在上述证明 Chebyshev对相关的大数弱法 sequences, we proved that 和 that 这 implies 因此，我们对两侧进行限制 obtain 但所以 it must be that 这只是均线融合的定义 to .

因此，也是在Chebyshev的大量弱势法则中对于相关序列，概率的收敛性来自事实上，均方的收敛意味着概率的收敛性。

强烈的法律

A LLN is called a 强的大量规律（SLLN）如果 sample mean 几乎肯定会融合。形容词强大的是从大量的弱法律中区分，在哪里样品意味着需要偶像。

Kolmogorov的强烈法则 Large Numbers

在Sllns中，Kolmogorov可能是最好的 known.

命题（Kolmogorov的 SLLN) Let be an iid sequence of random 有限的变量 mean: 然后，大量的强烈规律适用于样本 mean: 在哪里 denotes 几乎肯定的融合.

证明

例如，参见 Resnick (1999) 和 Williams (1991).

ergodic. 定理

在Kolmogorov的SLLN中，序列需要是IID序列。这种要求可以削弱，通过 requiring 静止和遍历。

命题（ergodic. Theorem) Let be a stationary and ergodic 随机变量的序列具有 finite mean: 然后，大量的强烈规律适用于样本 mean:

证明

例如，参见卡林和泰勒（1975年） and White (2001).

随机载体的大数法则

我们刚刚介绍了随机变量的关注序列。但是，它们可以以直接的方式扩展到序列 random vectors.

主张 Let be a sequence of random vectors, let 是他们的常见预期价值 and [eq65] 他们的样本平均值。表示 - component of by $x_ {n，j}$ and the - component of by $hypline {x} _ {n，j}$ . Then:

大量的弱法适用于样本意味着如果并且只有大量的弱法适用于每个组件 of the vector , that is, if and only if
大量的强烈规律适用于样本意味着如果并且只有大量的强度适用于每个组件 of the vector , that is, if and only if

证明

这是一个事实的结果矢量概率（几乎肯定地）收敛，如果只有其所有组件在概率（几乎肯定）中收敛。看到题为题为的讲座概率融合 and 几乎肯定的融合.

解决练习

下面可以找到一些练习解释的解决方案。

练习1

Let 是一个iid序列。序列的通用项具有平均值 and variance . Let 是一个协方差静止序列，使得序列的通用术语 satisfies 在哪里 . Denote by [eq71] 这样本序列的平均值。验证是否序列满足Chebyshev弱大法则所需的条件数字。在肯定的情况下，找到其概率限制。

解决方案

通过假设序列是协方差静止。所以序列的所有条款都具有相同的期望值。采取两侧的预期价值 equation 我们 obtain [eq75] 解决 for , we obtain 经过同样的令牌，可以派生方差 from [eq78] 哪一个， solving for , yields [eq80] 现在， we need to derive . Note that [eq82] 这两个序列的两个条款之间的协方差 is [eq83] 这共协调会的总和 is [eq84] 因此，考德里亚人往往是零 average: [eq85] 和 Chebyshev大量弱法则的条件满意。因此，样本意味着概率会聚到人口 mean: [eq86]

参考

Karlin，S.和H. E. Taylor（1975） A first course in stochastic processes，学术出版社。

Resnick，S. I. (1999) A probability path，Birkhauser。

白色，H. (2001) Asymptotic 经济学家理论，学术出版社。

威廉姆斯，D。 (1991) Probability with martingales，剑桥大学出版社。

如何引用

请引用：

Taboga, Marco (2017). "大量法", Lectures on probability theory and mathematical statistics, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/asymptotic-theory/law-of-large-numbers.

大量法