信息真人在线斗地主(也称为Fisher信息真人在线斗地主)是真人在线斗地主 秒 交叉时刻 的 得分向量。后者是向量 的一阶偏导数的 对数似然函数 尊重地 其参数。
信息真人在线斗地主定义如下。
定义
让
成为
参数向量 表征
样本分布
.
让
是...的似然函数
,
取决于参数
.
让
对数似然
功能
表示
通过
的
得分向量,即
的一阶导数向量
关于...的条目
.
信息真人在线斗地主
是个
分数的第二个交叉矩真人在线斗地主,已定义
通过
哪里
符号
表示期望值是针对概率得出的
与参数关联的分布
.
例如,如果样本
有一个 连续
分配,那么似然函数
是
哪里
是个 概率密度
功能 的
,
通过参数化
,
和信息真人在线斗地主
是
在中等规律性条件下,分数的期望值等于
零:如
a
后果,
那
是,信息真人在线斗地主是
协方差
真人在线斗地主 的分数。
在适度的规律性条件下,可以证明
那哪里
是二阶交叉偏导数的真人在线斗地主(所谓的Hessian
对数似然的真人在线斗地主)。
这种平等称为信息平等。
例如,考虑一个样本
制作
的实现
IID
正常随机
变数 带参数
和
(均值和方差)。
在这种情况下,信息真人在线斗地主
是
对数似然函数是
如
在关于
最大
正态分布参数的似然估计。的
得分了
是一个
向量,其条目是对数似然的偏导数
尊重
和
:
的
信息真人在线斗地主
是
我们
有
哪里:
在步
我们使用了这样一个事实
对于
因为样本中的变量是
独立
且均值等于
;
在步
我们使用了这样一个事实
此外,
哪里:
逐步
和
我们在样本中和步骤中使用了观察值的独立性
我们已经利用了事实,第四
中心时刻 的
正态分布等于
.
最后,
哪里:
在步
我们使用了这样的事实
然后
对于
因为样本中的变量是独立的;在步
我们已经利用了这样一个事实,即正态分布的第三中心矩
等于零。
有关Fisher信息真人在线斗地主的更多详细信息,包括证明 信息平等和分数的预期值为 等于零,可以在演讲中找到 最大 可能性.
上一页条目: 不可能的事件
下一页条目: 可积随机变量
请引用为:
Taboga, Marco (2017). "信息真人在线斗地主", 列克特ures on probability 的ory 和 mathematical statistics, Third edition. Kindle Direct Publishing. Online appendix. //www.junruiqiche.com/glossary/information-matrix.