热门标签 | HotTags
当前位置:  开发笔记 > 后端 > 正文

详解统计信号处理之克拉美罗界

标签:各种研究领域(包括无线定位方向)都会碰到参数估计的问题,这时常常会看到克拉美罗界(Cramér–Raobound)这个东西。很多随机信号的书都会介绍什么是克拉美罗界,但初学者学起来往

标签:

  各种研究领域(包括无线定位方向)都会碰到参数估计的问题,这时常常会看到克拉美罗界 (Cramér–Rao bound)  这个东西。很多随机信号的书都会介绍什么是克拉美罗界,但初学者学起来往往很吃力,本文从直观上简单讨论一下克拉美罗界的各个方面。

什么是参数估计问题

  假设一种最简单的情况:

    一个物理量为技术分享,我们使用某种方式去观测它,观测值为技术分享,由于存在噪声,此时技术分享技术分享为高斯噪声,技术分享

这种情况下,我们自然会直接使用观测值技术分享去估计技术分享,这时就会存在估计的误差,直观地理解,噪声的方差技术分享越大,估计就可能越不准确。

为什么要讨论克拉美罗界

  讨论克拉美罗界就是为了使用这个标准来衡量无偏估计量的性能。

  采用上面的方式,使用技术分享去估计技术分享,这个估计值会在真实值附近波动(看作随机变量)。我们需要使用一些标准来衡量这种估计的好坏,一个标准是估计值的平均,这里的这个估计量是无偏估计量。另一标准是这个估计值波动的剧烈程度,也就是方差。上面这个问题中,克拉美罗界就等于这个方差。

  可是为什么不直接讨论方差而要去计算克拉美罗界呢,因为方差是针对某一种特定的估计量(或者理解为估计方式)而言的,在上面的例子中,方差是估计量技术分享的方差(技术分享)。对于稍微复杂一点点的问题,对技术分享的可以有各种不同的估计量,它们分别的方差是不同的。显然,对于无偏估计量而言,方差越小的估计方式性能越好,但是这个方差有一个下界,就是我们的克拉美罗界。

直观地理解克拉美罗界

  克拉美罗界本身不关心具体的估计方式,只是去反映:利用已有信息所能估计参数的最好效果。

  还是上面那个参数估计问题,当我们观察到技术分享的时候,我们可以知道真实值技术分享的概率密度分布是以技术分享为均值,技术分享为方差的正态分布,即:

技术分享

                  技术分享技术分享

上图给出了两个似然函数的例子,直观地看,似然函数的“尖锐”性决定了我们估计位置参数技术分享的精度。这个“尖锐”性可以用对数似然函数峰值处的负的二阶导数来度量,即对数似然函数的曲率(对数似然函数就是在似然函数的基础山加一个自然对数,这样有利于计算)。计算过程我就不写了,有兴趣的可以自己算算,算完之后结果为:技术分享,是噪声的方差的倒数,也就是噪声越小,对数似然函数越尖锐。

  所以,可以这样理解,似然函数的“尖锐”程度,或者,符合似然函数分布的这组数据的方差,就是克拉美罗界。

不同的估计量(估计方式)是什么意思

  让我们来分析一个稍微复杂一点点的参数估计问题:

    一个物理量为技术分享,我们使用某种方式去观测它,观测值为技术分享技术分享,这是两个不同时刻的观测结果,一样的高斯噪声技术分享

  这种情况下,我们要估计技术分享,正常人可能会采用估计量技术分享,即前后两个观测的平均,也有人可能觉得这样计算量有点大,于是总是直接使用技术分享去估计技术分享,也有人觉得第二个观测值可能会受到系统影响而不准确,他更相信前面的观察值,于是总采取这样的估计量技术分享。这三个估计量都是无偏的:

  估计量技术分享的方差为:技术分享

  估计量技术分享的方差为:技术分享

  估计量技术分享的方差为:技术分享

  比较上面的三种估计量,第一种的方差最小,它的估计效果较好。实际上,如果第二个观测值真的不太准确,也就是后一个高斯噪声较大,这样的话也许第二个估计量就比较合适了。

  因此,不同的考虑方式可以产生各种不同的估计算法,这些不同的估计量都是在真实值附近波动的随机变量(有的有偏,有的无偏),它们分别的方差也是不一样的,但是数学家们证明了:任何无偏估计量的方差必定大于等于克拉美罗界。

 克拉美罗界的基本计算

  我们假设这两次观察互相独立,仅受相同的高斯白噪声影响,那么根据已有的信息,真实值技术分享的似然函数为两个正态的概率密度分布相乘:(注意:pdf实际上应该再进行归一化处理,但是我们之后使用对数似然函数,乘不乘归一化系数都无所谓,对数之后变成了常数,求导的时候就没了)

技术分享

与之前一样,可以计算出对数似然函数的二阶导数,得到结果为:技术分享。实际上,当观测数目为技术分享的时候,这个值将会是技术分享。也就是说,使用多个观测值的信息时,对数似然函数越“尖锐”。这个二阶导数(曲率)更一般的度量是(下面用技术分享来表示要估计的参数技术分享):

技术分享

它度量了对数似然函数的平均曲率(很多情况下曲率与技术分享的值有关,取数学期望使得它仅为技术分享的函数),被称为数据技术分享的Fisher信息技术分享,直观地理解,信息越多,下限越低,它具有信息测度的基本性质(非负的、独立观测的可加性)。一般来说,Fisher信息的倒数就是克拉美罗界了,任何无偏估计量技术分享的方差满足:

技术分享

大多情况下,这个不等式的右边(克拉美罗界)是技术分享的函数。

克拉美罗界的标准定义

   (定理:Cramer-Rao下限----标量参数)

  假定PDF 技术分享满足“正则”条件(对于所有的技术分享):

技术分享

其中数学期望是对技术分享 求取的。那么,任何无偏估计量技术分享的方差必定满足:

技术分享

其中导数是在技术分享的真值处计算的,数学期望是对技术分享求取的。而且,对于某个函数技术分享技术分享,当且仅当

技术分享

时,对所有技术分享达到下限的无偏估计量就可以求得。这个估计量是技术分享,它是MVU估计量(最小方差无偏估计),最小方差是技术分享

总结

  估计一个参数,根据已有信息得到了似然函数(或者pdf),这个pdf的“尖锐”性,或者,符合似然函数分布的这组数据的方差,就是克拉美罗界,它可以通过对对数似然函数求二阶导再取倒数得到。克拉美罗界的计算不依赖具体的估计方式,它可以用来作为一个衡量估计方式好坏的标准,及估计量的方差越靠近克拉美罗界,效果越好。

 

(注:本文主要参考《统计信号处理基础-估计与检测理论》-国外电子与通信教材系列)

 

 

作者: rubbninja
出处: http://www.cnblogs.com/rubbninja/
关于作者:目前是学生,主要研究领域为机器学习与无线定位技术,欢迎讨论与指正!
版权声明:本文版权归作者和博客园共有,转载请注明出处。

 

统计信号处理-简单看看克拉美罗界

标签:


推荐阅读
  • Coursera ML 机器学习
    2019独角兽企业重金招聘Python工程师标准线性回归算法计算过程CostFunction梯度下降算法多变量回归![选择特征](https:static.oschina.n ... [详细]
  • 机器学习中的相似度度量与模型优化
    本文探讨了机器学习中常见的相似度度量方法,包括余弦相似度、欧氏距离和马氏距离,并详细介绍了如何通过选择合适的模型复杂度和正则化来提高模型的泛化能力。此外,文章还涵盖了模型评估的各种方法和指标,以及不同分类器的工作原理和应用场景。 ... [详细]
  • 本文详细介绍了Java编程语言中的核心概念和常见面试问题,包括集合类、数据结构、线程处理、Java虚拟机(JVM)、HTTP协议以及Git操作等方面的内容。通过深入分析每个主题,帮助读者更好地理解Java的关键特性和最佳实践。 ... [详细]
  • Docker的安全基准
    nsitionalENhttp:www.w3.orgTRxhtml1DTDxhtml1-transitional.dtd ... [详细]
  • 深入解析:手把手教你构建决策树算法
    本文详细介绍了机器学习中广泛应用的决策树算法,通过天气数据集的实例演示了ID3和CART算法的手动推导过程。文章长度约2000字,建议阅读时间5分钟。 ... [详细]
  • 网络攻防实战:从HTTP到HTTPS的演变
    本文通过一系列日记记录了从发现漏洞到逐步加强安全措施的过程,探讨了如何应对网络攻击并最终实现全面的安全防护。 ... [详细]
  • 本文深入探讨了Linux系统中网卡绑定(bonding)的七种工作模式。网卡绑定技术通过将多个物理网卡组合成一个逻辑网卡,实现网络冗余、带宽聚合和负载均衡,在生产环境中广泛应用。文章详细介绍了每种模式的特点、适用场景及配置方法。 ... [详细]
  • 高效提取PDF页面的实用技巧
    在学习和工作中,我们经常需要与他人共享PDF格式的资料。然而,有时只需要分享部分内容,而不仅仅是整个文档。本文将介绍如何使用福昕阅读器领鲜版高效地提取PDF页面,以提高文件传输效率和查阅便捷性。 ... [详细]
  • 精选30本C# ASP.NET SQL中文PDF电子书合集
    欢迎订阅我们的技术博客,获取更多关于C#、ASP.NET和SQL的最新资讯和资源。 ... [详细]
  • 本次考试于2016年10月25日上午7:50至11:15举行,主要涉及数学专题,特别是斐波那契数列的性质及其在编程中的应用。本文将详细解析考试中的题目,并提供解题思路和代码实现。 ... [详细]
  • 本文介绍了多个关于JavaScript的书籍资源、实用工具和编程实例,涵盖从入门到进阶的各个阶段,帮助读者全面提升JavaScript编程能力。 ... [详细]
  • 黑鸟安全团队发布最新警告,Apache Struts2框架曝出S2-048高危漏洞。目前该漏洞的攻击代码(POC)已公开,建议各企业和组织立即检查是否使用了受影响的Struts2版本,并采取相应措施进行防护。 ... [详细]
  • 本文由杨勇和思远于2012年12月27日撰写,主要探讨了如何使用PHP进行网页内容抓取,特别是针对字符较多的网站。文章详细介绍了正则表达式失效的原因,并提供了优化方法,同时展示了如何抓取淘宝服饰栏、天气信息以及IP地址对应的地理位置。 ... [详细]
  • 本文详细介绍了福昕软件公司开发的Foxit PDF SDK ActiveX控件(版本5.20),并提供了关于其在64位Windows 7系统和Visual Studio 2013环境下的使用方法。该控件文件名为FoxitPDFSDKActiveX520_Std_x64.ocx,适用于集成PDF功能到应用程序中。 ... [详细]
  • 本文介绍了在Java环境中使用PDFBox和XPDF工具从PDF文件中提取文本内容的方法。重点讨论了处理中文字符集及解决相关错误的技术细节,特别是针对某些特定格式的PDF文件(如网上填写的报名表和下载的论文)遇到的问题及解决方案。 ... [详细]
author-avatar
佛祖上帝真主保佑我
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有