估计方法

经过 Marco Taboga. ，博士学位

在讲座中题为 Point estimation 我们已经确定了估算者的概念，我们已经讨论了标准 评估估算器，但我们没有讨论衍生估算者的方法。 本讲座讨论了可用于派生参数的一般技术 参数估计问题中的估算器。

在开始之前，让我们调查参数估计的主要元素 problem:

• a sample 用于对生成的概率分布进行陈述 the sample;

• the sample 被认为是实现一个 random vector , whose unknown joint 分配功能，表示 , 假设属于一组分发功能 , 被称为统计模型;

• the model 与一套进行对应 of real vectors; is called the parameter space and its elements are called parameters;

• 与未知分发功能关联的参数 实际生成样本的表示由 它被称为真实参数（如果放置了几个不同的参数 与之对应 , 可以是其中任何一个）;

• 将参数估计有关的预定义规则（函数） to each in the support of 被称为估算器（符号 通常用于表示估计和估计和含义 通常从上下文中清除）。

极值估算

几个广泛采用的估计属于极值的阶级 估计。估算者 is an 极值估算器 如果它可以表示为 最大化的解决方案 problem: 在哪里 是参数的函数 and the sample .

一般条件可以用于稠度和渐近常态 极值估计。我们在这里没有讨论它们（参见，例如，Hayashi，F. （2000）经济学，普林斯顿大学出版社），但我们宁愿给一些 极值估计器的例子，我们将读者推荐给讲座 以更详细的方式描述这些示例。

最大似然

在最大的似然估计中，我们最大限度地提高了 sample: 在哪里：

1. if is discrete ， 这 likelihood 是 the 联合的 probability mass function of 与对应于参数的分布相关联 ;

2. if is absolutely continuous， 可能性 是 the joint 概率密度函数 of 与对应于参数的分布相关联 .

is called the 最大可能性估算器 of .

在讲座中更详细地讨论了最大似然估计 entitled Maximum Likelihood.

时刻的广义方法

在普通的时刻（GMM）估计方法中，分布 与参数相关联 是这样，他们满足了这一刻 condition: 在哪里 是（矢量）函数和 表示使用该分发计算预期值 associated to . The GMM估算器 is obtained as 在哪里 is a 衡量距离 of 从预期的价值 并且估算器是极值估算器 because

最小二乘

在最小二乘估计样本 comprises realizations , ..., of a random variable , 称为从属变量，和 observations , ..., of a random vector , 其组件称为独立变量。它被假设到那里 exists a function such that

The 最小二乘估计 is obtained as

估算器是一个极值估计 because

如何引用

请引用：

Taboga, Marco (2017). "估计方法", Lectures on probability theory and mathematical statistics, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/fundamentals-of-statistics/estimation-methods.