Expectativa condicional y descomposición de variables

Question

Supongamos que $X$ y $Y$ tienen una distribución conjunta desconocida $f_{XY}$ .

¿Cómo puedo demostrar formalmente que siempre existe una descomposición única de la forma : $$ Y = E[Y|X] +\epsilon $$

sin asumir ninguna forma explícita de $f_{XY}$ ?

Answer 1

Esto se deduce de la linealidad de la expectativa y la ley de la expectativa total

$X$ y $Y$ tienen una distribución conjunta desconocida $F_{XY}$ y la distribución de $Y\mid X$ es algo desconocido $F_{Y|X}$ . Supongamos que la media de $Y|X$ es $\mu(X)$ .

Consideremos la variable aleatoria $\epsilon = Y - \mu(X)$ . Entonces $\epsilon$ es una variable aleatoria de media 0. Para ver esto, \begin{align*} E(\epsilon)& = E(Y - \mu(X))\\ & = E(E(Y - \mu(X) \mid X))\\ & = E\left[ E(Y\mid X) - \mu(X) \right]\\ & = E(0)\\ & = 0\,. \end{align*}

Por lo tanto, siempre podemos escribir

$$Y = \mu(X) + \epsilon = E(Y\mid X) + \epsilon \,.$$

---

Singularidad:

Supongamos que existe un $\delta(X)$ y $\eta$ tal que

$$Y = \delta(x) + \eta. $$

La unicidad se mantiene bajo dos restricciones.

1. $\eta$ es independiente de $X$
2. $E(\eta) = 0$

Tomar expectativas con respecto a $F_{Y|X}$ , \begin{align*} E(Y\mid X) & = E( \delta(X) \mid X) + E(\eta \mid X)\\ \Rightarrow \mu(X) & = \delta(X) + 0\,. \end{align*}

Así, obtenemos que $\delta(X) = \mu(X)$ lo que implica $\eta = \epsilon$ .

Obsérvese que las dos restricciones son cruciales.