Expectativa condicional vs. incondicional

Question

Tengo problemas para entender el cálculo de las expectativas condicionales versus las incondicionales en este caso:

\begin & \quad &X=1 \quad &X=-1 \quad &X=2 \\ &Y=1 \quad &0.25 \quad &0.25 \quad &0 \\ &Y=2 \quad &0 \quad &0 \quad &0.5 \end {\i1}{\b1}

\begin {alinear} ~ \\ ~ \\ ~ \\ E(Y)&= \sum_Y y f(y) \\ ~ \\ ~ \\ ~ \\ E(Y|X)&= \sum_Y y f(y|x) \end {alinear}

Para mí, ambos cálculos son $1*0.25 + 1*0.25 + 2*0.5 = 1.5$ . ¿Qué estoy haciendo mal?

Answer 1

Si $p_{X,Y}(x,y)$ denota el función de masa de probabilidad conjunta de variables aleatorias discretas variables aleatorias $X$ y $Y$ entonces las funciones de masa marginal son $$\begin{align} p_X(x) &= \sum_y p_{X,Y}(x,y)\\ p_Y(y) &= \sum_x p_{X,Y}(x,y) \end{align}$$ y así tenemos que $$E[Y] = \sum_y y\cdot p_{Y}(y) = \sum_y y\cdot \sum_xp_{X,Y}(x,y) = \sum_x\sum_y y\cdot p_{X,Y}(x,y).\tag{1}$$

Ahora, el condicional función de masa de probabilidad de $Y$ dado que $X = x$ es $$p_{Y\mid X}(y \mid X=x) = \frac{p_{X,Y}(x,y)}{p_X(x)} = \frac{p_{X,Y}(x,y)}{\sum_y p_{X,Y}(x,y)}\tag{2}$$ y $$E[Y\mid X=x] = \sum_y y\cdot p_{Y\mid X}(y \mid X=x).\tag{3}$$ El valor de esta expectativa depende de nuestra elección del valor $x$ asumido por $X$ y por lo tanto es un variable aleatoria En efecto, es una función de la variable aleatoria $X$ y esta variable aleatoria se denomina $E[Y\mid X]$ . Sucede que toma valores $E[Y\mid X = x_1], E[Y\mid X=x_2], \cdots $ con probabilidades $p_X(x_1), p_X(x_2), \cdots$ por lo que su valor esperado es

$$\begin{align}E\bigr[E[Y\mid X]\bigr] &= \sum_x E[Y\mid X = x]\cdot p_X(x) &\text{note the sum is w.r.t}~x\\ &= \sum_x \left[\sum_y y\cdot p_{Y\mid X}(y \mid X=x)\right]\cdot p_X(x) &\text{using}~ (3)\\ &= \sum_x \left[\sum_y y\cdot \frac{p_{X,Y}(x,y)}{p_X(x)}\right]\cdot p_X(x) &\text{using}~ (2)\\ &= \sum_x \sum_y y\cdot p_{X,Y}(x,y)\\ &= E[Y] &\text{using}~(1) \end{align}$$

---

En general, el número $E[Y\mid X = x]$ no tiene por qué ser igual a el número $E[Y]$ para cualquier $x$ . Pero, si $X$ y $Y$ son independiente variables aleatorias y así $p_{X,Y}(x,y) = p_X(x)p_Y(y)$ para todos $x$ y $y$ entonces $$p_{Y\mid X}(y \mid X=x) = \frac{p_{X,Y}(x,y)}{p_X(x)} = \frac{p_X(x)p_Y(y)}{p_X(x)} = p_Y(y)\tag{4}$$ y así $(3)$ da $$E[Y\mid X=x] = \sum_y y\cdot p_{Y\mid X}(y \mid X=x) = \sum_y y\cdot p_Y(y) = E[Y]$$ para todos $x$ Es decir, $E[Y\mid X]$ es un degenerado al azar variable aleatoria que es igual a la número $E[Y]$ con probabilidad $1$ .

---

En su ejemplo particular, la respuesta de BabakP después de la corrección por el moderador whuber muestra que $E[Y\mid X = x]$ es una variable aleatoria variable aleatoria que toma valores $1, 1, 2$ con probabilidades $0.25, 0.25, 0.5$ respectivamente, por lo que su expectativa es $0.25\times 1 + 0.25\times 1 + 0.5\times 2 = 1.5$ mientras que el $Y$ es una variable aleatoria que toma valores $1$ y $1$ con igual probabilidad $0.5$ y así $E[Y] = 1\times 0.5 + 2\times 0.5 = 1.5$ como de hecho se espera de la ley de la expectativa iterada $$E\left[[Y\mid X]\right] = E[Y].$$

Si el pmf conjunto pretendía ilustrar la diferencia entre la expectativa condicional expectativa condicional y la expectativa, entonces fue una elección espectacularmente mala porque la variable aleatoria $E[Y\mid X]$ resulta tener el mismo como la variable aleatoria $Y$ por lo que los valores esperados son necesariamente los mismos. En términos más generales, $E[Y\mid X]$ hace no tienen la misma distribución que $Y$ pero sus valores esperados son son los mismos. Consideremos, por ejemplo, el pmf conjunto $$\begin{array}{c c c c} & \quad &X=1\quad &X=-1\quad &X=2 \\ &Y=1\quad &0.2\quad &0.2\quad &0.1 \\ &Y=2\quad &0.2\quad &0.1\quad &0.2 \end{array}$$ para la cual los pmfs condicionales de $Y$ son $$X=1: \qquad p_{Y\mid X}(1\mid X = 1) = \frac{1}{2}, p_{Y\mid X}(2\mid X = 1) = \frac{1}{2}\\ X=-1: \qquad p_{Y\mid X}(1\mid X = 1) = \frac{2}{3}, p_{Y\mid X}(2\mid X = 1) = \frac{1}{3}\\ X=2: \qquad p_{Y\mid X}(1\mid X = 1) = \frac{1}{3}, p_{Y\mid X}(2\mid X = 1) = \frac{2}{3}$$ los medios condicionales son $$\begin{align} E[Y\mid X = 1] &= 1\times \frac{1}{2} + 2 \times \frac{1}{2} = \frac{3}{2}\\ E[Y\mid X = -1] &= 1\times \frac{2}{3} + 2 \times \frac{1}{3} = \frac{4}{3}\\ E[Y\mid X = 2] &= 1\times \frac{1}{3} + 2 \times \frac{2}{3} = \frac{5}{3} \end{align}$$ es decir, $E[Y\mid X]$ es una variable aleatoria que toma valores $\frac{3}{2}, \frac{4}{3}, \frac{5}{3}$ con probabilidades $\frac{4}{10}, \frac{3}{10}, \frac{3}{10}$ respectivamente, que es no la misma que la distribución de $Y$ . Tenga en cuenta también que $E[Y] = \frac{3}{2}$ resulta ser igual a $E[Y\mid X=1]$ pero no las otras dos expectativas condicionales. Mientras que $E[Y\mid X]$ y $Y$ tienen diferentes distribuciones, sus valores esperados son los mismos: $$E\left[E[Y\mid X]\right] = \frac{3}{2}\times\frac{4}{10} +\frac{4}{3}\times\frac{3}{10} + \frac{5}{3}\times \frac{3}{10} = \frac{3}{2} = E[Y].$$

Answer 2

Como dijo @Whuber, el segundo cálculo debería dar una variable aleatoria en lugar de un número.

Ahora para completar estos cálculos (y ver el dato de @Whubers) calculamos lo siguiente:

$$E(Y)=\sum_y yf(y)=1(0.25) + 1(0.25) + 2(0.5) = 1.5$$

que es lo que ha calculado correctamente antes. Ahora, la segunda expectativa es la siguiente:

$$E(Y|X=x)=\sum_y y f(y|X=x)= \begin{cases} 1\times1 + 0\times 2=1 & \text{if } x = 1\\ 1\times 1 + 0\times 2=1 & \text{if } x = -1\\ 0\times 1 + 1\times2=2 & \text{if }x = 2 \end{cases}$$

Así que dependiendo de qué valor $X$ toma determina cuál es el valor esperado de $Y$ (condicionado $X$ ) será.