[拼音]:guji lilun [外文]:estimation theory 应用统计学方法来研究,用接收到的有噪声的观测数据估计实际参量或随机变量、随机过程或系统某些特性的理论,为信息论的一个分支。估计分为参量估计和状态估计两类。参量和状态的区别是:前者随着时间保持不变或只缓慢变化;后者则随着时间连续变化。例如,根据雷达回波来估计每一时刻在连续变化的卫星的三个空间位置矢量和三个速度矢量,这是状态估计。对卫星的质量和惯量等的估计则属于参量估计。被估计的参量又可分为随机变量和非随机变量两种。要估计的状态则又有离散时间和连续时间的区别。 发展概况19世纪初,德国数学家C.F.高斯提出了最小二乘法估计(最小平方误差估计)。从20世纪20年代到30年代,英国统计学家R.A.费歇耳系统地建立了经典估计理论。1941年苏联科学家H.柯尔莫戈洛夫首先论述离散时间情况下的预测问题。美国科学家N.维纳于1942年推导出连续时间滤波。他们都把统计方法应用于解决与状态估计有关的最佳线性滤波问题,为现代估计理论奠定了基础。60年代初,R.E.卡尔曼等人发展了维纳理论,把状态变量法引入滤波理论,用时域微分方程表示滤波问题,得到递归滤波算法,适于用计算机求解和实时处理。这一突破使估计理论在许多领域得到实际应用。80年代初,光纤通信和激光雷达等逐渐成为工程现实,量子信道与量子检测和估计理论遂引起人们的注意。 ![]() 基本概念图为一般估计问题的模型。源的输出通常是时间t的函数,并且包含待估计的参量 ![]() 如果 ![]() 表示估计量的期望值等于真值,称为无偏估计。如果对同一参量θ用不同估计方法得出不同的无偏估计 ![]() 则 估计方法常用的估计方法有最小平方误差估计、极大似然估计和贝叶斯估计。 (1)最小平方误差估计:对信号和噪声的统计知识可以不作任何要求。它的基本点是使 n次观测值与理论计算值的绝对误差在平方和意义下最小,并由此求得估计量 u=f(θ1,θ2,…,θm;x,y,…) 对u和x,y,…作n次观测,得 (xi,yi,…,ui) (i=1,2,…,n) 于是u的理论计算值 ![]() 为最小。根据微分学中求极值方法可知,θ1,θ2,…,θm,应满足下列方程组 媉θ/媉θi=0 (i=1,2,…,m) 由此可求得最小平方误差估计量 (2)极大似然估计:以似然函数的概念为基础。用Y表示一组观测量,θ表示一组未知参量,则条件密度函数p(Y|θ)是Y 和θ两者的函数。如果规定Y等于其观测量Y*,则p(Y*│θ只是θ的函数,并称为似然函数。其涵义是似然函数p(Y*|θ)的值越大,则θ是准确值的可能性也越大。使p(Y*θ)最大的θ就是极大似然估计量,通常用 (3)贝叶斯估计:对于单参量估计(多参量估计的情况相似)来说,首先要给定随机参量 θ的概率密度函数p(θ)和因估计误差而带来的代价函数C(θ, ![]() 平均风险为 ![]() 贝叶斯估计就是使平均风险R( ![]() 解出贝叶斯估计量。
|