Utilizamos dos propiedades:
Primero: $E(2X+Y|2X+Y)=2X+Y$
Segundo: $(X-dY,2X+Y)$ es normal bivariante(para $d\neq - \frac{1}{2}$ ), si $Cou(X-dY,2X+Y)=0$ así que $X-dY$ y $2X+Y$ son independientes(por conjunto $\rho=0$ en la distribución bivarita de la junta $(X-dY,2X+Y)$ Correlaciones_e_independencia ). $E(X-dY|2X+Y)=E(X-dY)=0$ .
$$E(2X+Y|2X+Y)=2X+Y$$
así que
$$E(Y|2X+Y)=2X+Y-2E(X|2X+Y) \hspace{1cm} (1)$$
Para el primer paso $\rho=0$
$$cou(X-2\frac{a}{b} Y,2X+Y)=2Var(X)-2\frac{a}{b} Var(Y)=2a-2\frac{a}{b}b=0$$
así que como $X-2\frac{a}{b} Y$ y $2X+Y$$ son normales, por lo que son independientes.
por lo tanto $$E(X-2\frac{a}{b} Y|2X+Y)=E(X-2\frac{a}{b} Y)=0$$
$$E(X|2X+Y)=2\frac{a}{b} E(Y|2X+Y)\hspace{1cm} (2)$$
combinar (1) y (2)
$$E(X|2X+Y)=\frac{2\frac{a}{b}}{1+4\frac{a}{b}}\bigg(2X+Y\bigg)$$
$$E(Y|2X+Y)=\frac{1}{1+4\frac{a}{b}}\bigg(2X+Y\bigg)$$
así que
$$E(X -Y|2X+Y)=(\frac{2\frac{a}{b}}{1+4\frac{a}{b}}-\frac{1}{1+4\frac{a}{b}})\bigg(2X+Y\bigg)=(\frac{2\frac{a}{b}-1}{1+4\frac{a}{b}})\bigg(2X+Y\bigg)$$
**Ahora para el caso general** $\rho \in[-1,1]$
si $$d=\frac{2a+\rho\sqrt{a} \sqrt{b}}{b+2\rho \sqrt{a} \sqrt{b}} \hspace{1cm} (3)$$
$$cou(X-dY,2X+Y)=2a-db+(1-2d)\rho \sqrt{a} \sqrt{b}$$ $$=2a+\rho \sqrt{a} \sqrt{b}-d(b+2\rho \sqrt{a} \sqrt{b})=0$$
así que $$E(X-dY|2X+Y)=E(X-dY)=0$$ y en consecuencia
$$E(X|2X+Y)=dE(Y|2X+Y) \hspace{1cm} (4)$$
Combinar (4) y (1)
$$E(Y|2X+Y)=2X+Y-2E(X|2X+Y)=2X+Y-2dE(Y|2X+Y)$$ así que
$$E(Y|2X+Y)=\frac{1}{1+2d}\bigg(2X+Y\bigg) \hspace{1cm} (5)$$ y
$$E(X|2X+Y)=dE(Y|2X+Y)=\frac{d}{1+2d}\bigg(2X+Y\bigg) \hspace{1cm} (6)$$
(5) y (6)
$$E(X-Y|2X+Y)=\frac{d-1}{1+2d}\bigg(2X+Y\bigg)$$
$$=\frac{\frac{2a+\rho\sqrt{a} \sqrt{b}}{b+2\rho \sqrt{a} \sqrt{b}}-1}{1+2\frac{2a+\rho\sqrt{a} \sqrt{b}}{b+2\rho \sqrt{a} \sqrt{b}}}\bigg(2X+Y\bigg)$$
$$=\frac{2a-b-\rho \sqrt{a} \sqrt{b}}{b+4a+4\rho \sqrt{a} \sqrt{b}}\bigg(2X+Y\bigg)$$
detalle para "@Estudiante"
Ahora explico por qué creo que si $Cou(X-dY,2X+Y)=0$ así que $X-dY$ y $2X+Y$ son independientes.
1) $(X-dY,2X+Y)$ es normal bivariante para $d\neq \frac{-1}{2}$
Puedo escribir \begin{eqnarray} \begin{bmatrix} X-dY \\ 2X+Y \end{bmatrix} = \begin{bmatrix} 1 & -d \\ 2 & 1 \end{bmatrix} \begin{bmatrix} X \\ Y \end{bmatrix} \end{eqnarray}
Por linear-transformation-of-gaussian-random-variable Creo que \begin{eqnarray} \begin{bmatrix} X-dY \\ 2X+Y \end{bmatrix} \end{eqnarray}
es normal bivariante.
2) Ahora por Correlaciones_e_independencia Creo que si $Cou(X-dY,2X+Y)=0$ así que $X-dY$ y $2X+Y$ son independientes. wikipedia: "En general, las variables aleatorias pueden no estar correlacionadas pero ser estadísticamente dependientes. Pero si un vector aleatorio tiene una distribución normal multivariante, entonces dos o más de sus componentes no correlacionados son independientes".