Cota de Cramér-Rao

En estadística, la cota de Cramér-Rao (abreviada CRB por sus siglas del inglés) o cota inferior de Cramér-Rao (CRLB), llamada así en honor a Harald Cramér y Calyampudi Radhakrishna Rao, expresa una cota inferior para la varianza de un estimador insesgado, basado en la información de Fisher.

Establece que la inversa multiplicativa de la información de Fisher de un parámetro ${displaystyle heta }$, ${displaystyle {mathcal {I}}( heta )}$, es una cota inferior para la varianza de un estimador insesgado del parámetro (denotado mediante ${displaystyle {widehat { heta }}}$). Nótese que ${displaystyle f}$ es la función de verosimilitud.

En algunos casos, no existe un estimador insesgado que alcance la cota inferior.

A esta cota se la conoce también como la desigualdad de Cramér-Rao o como la desigualdad de información.

La cota depende de dos condiciones de regularidad débiles de la función de densidad de probabilidad, ${displaystyle f(x; heta )}$, y del estimador ${displaystyle T(X)}$:

En algunos casos, un estimador sesgado puede tener tanto varianza como error cuadrático medio por debajo de la cota inferior de Cramér-Rao (la cota inferior se aplica solo a estimadores insesgados).

Si se extiende la segunda condición de regularidad a la segunda derivada, entonces se puede usar una forma alternativa de la información de Fisher para obtener una nueva desigualdad de Cramér-Rao

En algunos casos puede resultar más sencillo tomar la esperanza con respecto a la segunda derivada que tomarla respecto del cuadrado de la primera derivada.

Extendiendo la cota de Cramér-Rao para múltiples parámetros, defínase el vector columna de parámetros

con función de densidad de probabilidad ${displaystyle f(x;{oldsymbol { heta }})}$ que satisface las dos condiciones de regularidad definidad anteriormente.

La matriz de información de Fisher es una matriz de dimensión ${displaystyle d imes d}$ con elementos ${displaystyle {mathcal {I}}_{m,k}}$ definidos según

entonces, la cota de Cramér-Rao es

donde

Y ${displaystyle mathrm {cov} _{oldsymbol { heta }}left({oldsymbol {T}}(X) ight)}$ es una matriz semi-definida positiva, es decir

Si ${displaystyle {oldsymbol {T}}(X)={egin{bmatrix}T_{1}(X)&T_{2}(X)&cdots &T_{d}(X)end{bmatrix}}^{T}}$ es un estimador insesgado (es decir, ${displaystyle {oldsymbol {psi }}left({oldsymbol { heta }} ight)={oldsymbol { heta }}}$) entonces la cota de Cramér-Rao es

Para el caso de una distribución normal multivariada de dimensión d

con función de densidad de probabilidad

la matriz de información de Fisher tiene entradas

donde ${displaystyle tr}$ es la traza de una matriz.

En particular, si ${displaystyle w[n]}$ es ruido blanco gaussiano (una muestra de ${displaystyle N}$ observaciones independientes) con varianza conocida ${displaystyle sigma ^{2}}$, es decir,

y ${displaystyle heta }$ es un escalar, entonces la matriz de información de Fisher es de dimensión 1 × 1

y por lo tanto la cota de Cramér-Rao es

---