在Statlect上搜索概率和统计术语
统计列克特
指数 > 词汇表

信息真人在线斗地主

通过 博士

信息真人在线斗地主(也称为Fisher信息真人在线斗地主)是真人在线斗地主 秒 交叉时刻 得分向量。后者是向量 的一阶偏导数的 对数似然函数 尊重地 其参数。

目录

定义

信息真人在线斗地主定义如下。

定义$ heta $ 成为 Kx1 参数向量 表征 样本分布 $ xi $. 让 [eq1] 是...的似然函数 $ xi $, 取决于参数 $ heta $. 让 [eq2] 对数似然 功能[eq3]表示 通过 [eq4]的 得分向量,即 Kx1 的一阶导数向量 [eq5] 关于...的条目 $ heta $. 信息真人在线斗地主 [eq6] 是个 $ Kimes K $ 分数的第二个交叉矩真人在线斗地主,已定义 通过[eq7]哪里 符号 [eq8] 表示期望值是针对概率得出的 与参数关联的分布 $ heta $.

例如,如果样本 $ xi $ 有一个 连续 分配,那么似然函数 是[eq9]哪里 [eq10] 是个 概率密度 功能$ xi $, 通过参数化 $ heta $, 和信息真人在线斗地主 是[eq11]

信息真人在线斗地主是的协方差真人在线斗地主 the 得分了

在中等规律性条件下,分数的期望值等于 零:[eq12]如 a 后果,[eq13]那 是,信息真人在线斗地主是 协方差 真人在线斗地主 的分数。

信息平等

在适度的规律性条件下,可以证明 那[eq14]哪里 [eq15] 是二阶交叉偏导数的真人在线斗地主(所谓的Hessian 对数似然的真人在线斗地主)。

这种平等称为信息平等。

正态分布的信息真人在线斗地主

例如,考虑一个样本 [eq16]制作 的实现 n IID 正常随机 变数 带参数 亩sigma ^ 2 (均值和方差)。

在这种情况下,信息真人在线斗地主 是[eq17]

证明

对数似然函数是 [eq18]如 在关于 最大 正态分布参数的似然估计。的 得分了 $ s $ 是一个 $ 2imes 1 $ 向量,其条目是对数似然的偏导数 尊重 亩sigma ^ 2: [eq19]的 信息真人在线斗地主 是[eq20]我们 有[eq21]哪里: 在步 $ rame {A} $ 我们使用了这样一个事实 [eq22] 对于 $i
eq j$ 因为样本中的变量是 独立 且均值等于 亩; 在步 $ rame {B} $ 我们使用了这样一个事实 [eq23]此外,[eq24]哪里: 逐步 $ rame {A} $$ rame {B} $ 我们在样本中和步骤中使用了观察值的独立性 $ rame {B} $ 我们已经利用了事实,第四 中心时刻 的 正态分布等于 [eq25]. 最后,[eq26]哪里: 在步 $ rame {A} $ 我们使用了这样的事实 [eq27] 然后 [eq28]对于 $i
eq j$ 因为样本中的变量是独立的;在步 $ rame {B} $ 我们已经利用了这样一个事实,即正态分布的第三中心矩 等于零。

更多细节

有关Fisher信息真人在线斗地主的更多详细信息,包括证明 信息平等和分数的预期值为 等于零,可以在演讲中找到 最大 可能性.

继续阅读词汇表

上一页条目: 不可能的事件

下一页条目: 可积随机变量

如何引用

请引用为:

Taboga, Marco (2017). "信息真人在线斗地主", 列克特ures on probability 的ory 和 mathematical statistics, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/glossary/information-matrix.

这本书

该网站上提供的大多数学习材料现在都以传统教科书格式提供。