Descorrelación + Normalidad conjunta = Independencia. ¿Por qué? Intuición y mecánica

Question

Dos variables que no están correlacionadas no son necesariamente independientes, como lo ejemplifica simplemente el hecho de que $X$ y $X^2$ no están correlacionados pero no son independientes. Sin embargo, se garantiza que dos variables que no están correlacionadas y que se distribuyen normalmente de forma conjunta son independientes. ¿Alguien puede explicar intuitivamente por qué esto es cierto? ¿Qué añade exactamente la normalidad conjunta de dos variables al conocimiento de la correlación cero entre dos variables, que nos lleva a concluir que estas dos variables DEBEN ser independientes?

Answer 1

La función de densidad de probabilidad conjunta (pdf) de la distribución normal bivariada es: $$f(x_1,x_2)=\frac 1{2\pi\sigma_1\sigma_2\sqrt{1-\rho^2}}\exp[-\frac z{2(1-\rho^2)}], $$

donde

$$z=\frac{(x_1-\mu_1)^2}{\sigma_1^2}-\frac{2\rho(x_1-\mu_1)(x_2-\mu_2)}{\sigma_1\sigma_2}+\frac{(x_2-\mu_2)^2}{\sigma_2^2}.$$ Cuando $\rho = 0$ , $$\begin{align}f(x_1,x_2) &=\frac 1{2\pi\sigma_1\sigma_2}\exp[-\frac 12\left\{\frac{(x_1-\mu_1)^2}{\sigma_1^2}+\frac{(x_2-\mu_2)^2}{\sigma_2^2}\right\} ]\\ & = \frac 1{\sqrt{2\pi}\sigma_1}\exp[-\frac 12\left\{\frac{(x_1-\mu_1)^2}{\sigma_1^2}\right\}] \frac 1{\sqrt{2\pi}\sigma_2}\exp[-\frac 12\left\{\frac{(x_2-\mu_2)^2}{\sigma_2^2}\right\}]\\ &= f(x_1)f(x_2)\end{align}$$ .

Así que son independientes.

Answer 2

Normalidad conjunta de dos variables aleatorias $X,Y$ se puede caracterizar de dos maneras sencillas:

• Para cada par $a,b$ de números reales (no aleatorios), $aX+bY$ tiene una distribución normal univariante.

• Hay variables aleatorias $Z_1,Z_2\sim\operatorname{\text{i.i.d.}} \operatorname N(0,1)$ y los números reales $a,b,c,d$ tal que $$\begin{align} X & = aZ_1+bZ_2 \\ \text{and } Y & = cZ_1 + dZ_2. \end{align}$$

Es fácil demostrar que la primera se deriva de la segunda. Que la segunda se desprende de la primera requiere más trabajo, y tal vez publique un post al respecto pronto . . .

Si la segunda es cierta, entonces $\operatorname{cov}(X,Y) = ac + bd.$

Si esta covarianza es $0,$ entonces los vectores $(a,b),$ $(c,d)$ son ortogonales entre sí. Entonces $X$ es un múltiplo escalar de la proyección ortogonal de $(Z_1,Z_2)$ en $(a,b)$ y $Y$ en $(c,d).$

Ahora, unamos el hecho de la ortogonalidad con la simetría circular de la densidad conjunta de $(Z_1,Z_2),$ para ver que la distribución de $(X,Y)$ debe ser la misma que la distribución de dos variables aleatorias, una de las cuales es un múltiplo escalar de la proyección ortogonal de $(Z_1,Z_2)$ en el $x$ -es decir, es un múltiplo escalar de $Z_1,$ y el otro es igualmente un múltiplo escalar de $Z_2.$