6 votos

Lineal estimación MMSE de estimador MMSE

Esta pregunta se pide por una discusión reciente sobre la relación entre la esperanza condicional y la covarianza.

Supongamos que $X$ $Y$ cero significa la unidad y la varianza de las variables aleatorias con la covarianza (y el coeficiente de correlación) $\rho$. El mínimo-mean-square error (MMSE) estimador de $Y$ $X$ es la variable aleatoria $g(X)$ que minimiza $E[(Y-g(X))^2]$, y como es bien conocido, $$g(X) = E[Y \mid X] ~\text{minimizes}~E[(Y-g(X))^2]$$ También es bien conocido que $E[g(X)] = E[E[Y\mid X]] = E[Y] = 0$. En general, $g(X)$ es una función no lineal. Por otro lado, si el perito se limita a ser de la forma $\hat{Y} = aX + b$ donde $a$ $b$ son números reales, a continuación, el lineal estimador MMSE de $Y$ $X$ es $\hat{Y} = \rho X$, es decir, $$a = \rho, ~ b = 0, ~\text{minimizes}~E[(Y-aX-b)^2].$$ El lineal estimador MMSE $\rho X$ tiene una media de cuadrados de error $E[(Y-\rho X)^2] = 1 - \rho^2$ , por lo que la media de cuadrados del error del estimador MMSE $g(X)$ puede ser mayor:
$$E[(Y-g(X))^2] \leq 1 - \rho^2.$$

Una versión simplificada de la cuestión en la discusión anterior es: si $g(\cdot)$ es una disminución de en función de su argumento, muestran que $\rho$ es valor no positivo.

Mi pregunta es: ¿cuál es la lineal estimación MMSE de $g(X) = E[Y \mid X]$ dado $X$? Es decir, lo que la elección de los números reales $c$ $d$ minimiza $E[(g(X) - cX - d)^2]$? Desde $g(X)$ $X$ ambos tienen cero significa y $X$ tiene unidad de varianza, estándar linear estimador MMSE teoría da que $d = 0$ y $$c = \frac{\text{cov}(g(X),X)}{\text{var}(X)} = \text{cov}(g(X),X) = E[Xg(X)]$$ que creo que podría funcionar a ser $\rho$, pero no estoy seguro acerca de esto. Alguna sugerencia sobre cómo proceder en el futuro sería apreciada.

8voto

Michael Hardy Puntos 128804

Su conjetura es correcta. Por la ley de la total expectativa hemos $$ \begin{align} E(X(Y-g(X)) & = E(\;E(X(Y-g(X))\mid X)\;) \\ \\ & = E(\; E(XY\mid X) - E(Xg(X)\mid X)\;) \\ \\ & = E(\; XE(Y\mid X) - Xg(X) \;) \\ \\ & = E( Xg(X) - Xg(X)) = 0. \end{align} $$ Por lo tanto $$ E(XY) = E(Xg(X)). $$

i-Ciencias.com

I-Ciencias es una comunidad de estudiantes y amantes de la ciencia en la que puedes resolver tus problemas y dudas.
Puedes consultar las preguntas de otros usuarios, hacer tus propias preguntas o resolver las de los demás.

Powered by:

X