10 votos

¿Cuándo es mensurable el estimador de máxima verosimilitud?

Para una variable aleatoria$X$, una clase de probabilidad mide$P_\theta$ para$\theta\in \Theta$ y sus densidades$f_{\theta}$ wrt una medida común$\mu$, podemos definir la probabilidad máxima estimar:

$$ \ hat {\ theta} ^ {*} = \ hat {\ theta} ^ {*} (X) = \ arg \ max _ {\ theta \ in \ Theta} f _ {\ theta} (X) $$

Para que esto sea una estadística, necesita ser medible. ¿Cuándo es así? Puedo ver el caso donde$\mu$ es la medida de conteo y$\Theta$ es finito en particular.

6voto

d.k.o. Puntos 4022

Es una pregunta interesante. Por lo general, una discusión sobre la cuantificación de los estimadores es (deliberadamente) evitar en las aplicaciones estadísticas...

En el siguiente supongo que el yo.yo.d. caso; $(X,\mathcal{F},P)$ es un espacio de probabilidad, y $\Theta$ es un espacio de parámetros. El EML es un caso especial de la M-estimador $\hat\theta_n=\hat\theta_n(X_1,...,X_n)$, el cual es definido por

$$P_n h(\cdot,\hat\theta_n)=\inf_{\theta\in\Theta}P_nh(\cdot,\theta)\text{ }(1)$$

para algunos medibles función $h:X\times\Theta\rightarrow \mathbb{R}$; ($P_n$ es empírica de la medida/media muestral). En el paramétrico probabilidad caso de $h(x,\theta)=-\ln f_\theta(x)$.

El principal problema con la medición de la $\hat\theta_n$ es la medición de la infimum $\Theta$ (1). En particular, cuando se $\Theta$ es compacto y $h$ es continua en a $\theta$ por cada $x\in X$, entonces no hay suficiente estructura para garantizar que los infimum es medible (compacidad implica separación, de modo que podemos considerar infimum sobre contables subconjunto denso de $\Theta$).

He encontrado discusión más general sobre el tema en "Alta dimensión de Probabilidad, Vol. 1" en las páginas 34-58. En primer lugar, vamos a $\hat\theta_n^*$ el valor aproximado de la M-estimador. Una secuencia de aproximado estimadores satisface $$P_nh(\cdot,\hat\theta_n^*)-\inf_{\theta\in\Theta}P_nh(\cdot,\theta)\rightarrow 0$$ en (exterior) probabilidad (o un.s.). La imposición de algún tipo de estructura en $(\Theta,\mathcal{S})$ (medibles espacio asociado con $\Theta$) se puede demostrar que si bien es Borel medible aproximado estimador no tiene que existir, esta estructura garantiza la existencia de universalmente medibles (u.m.) estimador.

Aquí está teorema A. 2 en la página 55 (que utiliza una versión de medir selección teorema):

Si $(X,\mathcal{F})$ es mensurable de espacio y $(\Theta,\mathcal{S})$ es de Suslin, y si una secuencia de aproximado de M-estimadores existe, entonces tales estimadores puede ser elegido para ser u.m.

Usted puede encontrar aún más la discusión sobre la cuantificación en el capítulo 7 de "Control Óptimo Estocástico: El Tiempo Discreto Caso" (disponible en línea).

i-Ciencias.com

I-Ciencias es una comunidad de estudiantes y amantes de la ciencia en la que puedes resolver tus problemas y dudas.
Puedes consultar las preguntas de otros usuarios, hacer tus propias preguntas o resolver las de los demás.

Powered by:

X