¿Qué significa variables aleatorias ortogonales?

Question

Por lo que sé, la ortogonalidad es un concepto algebraico lineal, donde para un caso en 2D o 3D si los vectores son perpendiculares decimos que son ortogonales. Incluso es válido para dimensiones superiores. Pero cuando se trata de variables aleatorias no puedo entender la ortogonalidad. Vi en algún lugar que si la expectativa de 2 variables aleatorias $X$ e $Y$ es cero ( $E[XY] = 0$ ) entonces las variables aleatorias son ortogonales. ¿Cómo es eso posible?

¿La ortogonalidad en álgebra lineal y probabilidad y estadística es la misma?

Answer 1

Ortogonal significa que los vectores son perpendiculares entre sí. Lo afirmamos diciendo que los vectores x e y son ortogonales si su producto punto (también conocido como producto interno) es cero, es decir, $x^\intercal y$=0.

Sin embargo, para vectores con componentes aleatorias, la condición de ortogonalidad se modifica para ser Valor Esperado $E[x^\intercal y]=0$. Esto se puede ver como decir que para la ortogonalidad, cada resultado aleatorio de $x^\intercal y$ puede no ser cero, a veces positivo, a veces negativo, posiblemente también cero, pero el Valor Esperado $E[x^\intercal y]=0$. Teniendo en cuenta que el valor esperado es lo mismo que la media o promedio de los posibles resultados.

Naturalmente, al hablar de ortogonalidad, estamos hablando de vectores.

Answer 2

La ortogonalidad proviene de la idea de producto interno que se anula. En el caso de variables aleatorias $$ \mathbb E \left [ X\right ] = \int_{-\infty}^\infty xd\mu_X $$ entonces, las VA ortogonales son aquellas para las cuales $$ \mathbb E \left [ XY\right ] = \int_{-\infty}^\infty \int_{-\infty}^\infty xy d\mu_X d\mu_Y = 0 $$

Answer 3

Si $\langle X, Y \rangle$ = 0, entonces decimos que $X$ y $Y$ son ortogonales, donde $X, Y$ son vectores en un espacio de producto interno con producto interno $\langle \cdot, \cdot \rangle$.

Ahora, que $X, Y$ representan dos variables aleatorias. Supongamos que $\langle X, Y \rangle = Cov(X,Y),$ donde este último representa la covarianza de $X$ y $Y.$ Entonces, se puede verificar que esto es en efecto un producto interno (verifique las cuatro propiedades de un producto interno).

Pero, también sabemos que $Cov(X,Y) = \mathbb{E} [XY] - \mathbb{E} [X]\mathbb{E} [Y],$ por lo que tenemos que $$\langle X, Y \rangle = \mathbb{E} [XY] - \mathbb{E} [X]\mathbb{E} [Y].$$ Si $X$ y $Y$ son independientes, como se usa en teoría de probabilidad, entonces $\mathbb{E} [XY] = \mathbb{E} [X]\mathbb{E} [Y],$ por lo que $$\langle X, Y \rangle = \mathbb{E} [XY] - \mathbb{E} [X]\mathbb{E} [Y] = \mathbb{E} [X]\mathbb{E} [Y] - \mathbb{E} [X]\mathbb{E} [Y] = 0.$$ Por lo tanto, $X$ y $Y$ son ortogonales, como se usa en álgebra lineal.

Answer 4

Las variables aleatorias $X$ e $Y$ pueden ser pensadas como vectores en un espacio vectorial (de dimensiones infinitas), equipado con un producto interno, es decir $\langle X, Y \rangle = \mathbb{E}[XY]$. Este producto interno define una norma; para una variable aleatoria $X$, la norma es $\sqrt{\mathbb{E}[X^2]}$.

El producto interno también satisface simetría, linealidad y positividad como se requiere de cualquier producto interno. Llamamos ortogonales a dos variables aleatorias $X$ e $Y$ cuando $\langle X, Y \rangle = \mathbb{E}[XY] = 0$.