Distribución condicional de la distribución Normal con covarianza singular

Question

Estoy atascado con el siguiente problema: Suponga que tiene un vector aleatorio de n variables como $$Y = S + \epsilon, $$ $$S = LZ $$ donde $\epsilon \sim N_n(0,I\sigma^2)$ , $L$ es una matriz singular conocida, y $Z \sim N_n(0,I)$ ( $N_n$ representa una distribución Normal de n variables). En este caso, los valores de $S$ pertenece a un espacio de dimensión inferior a $n$ pero como hay un término de error $\epsilon$ , $Y$ vuelve a $\mathbb R^n$ . ¿Cómo puedo hallar la distribución condicional de $S|Y$ ? El hecho de que $LL'$ no tiene inversa hace que el método habitual falle porque $S$ no tiene pdf.

Supongamos, por ejemplo $n=2$ y $L =\bigl( \begin{smallmatrix}1 & 0\\1 & 0 \end{smallmatrix}\bigr)$ entonces $S$ debe estar en el $x=y$ línea. Mi intuición dice $S|Y$ que tiene que ser Normal Distribuida, con media $\frac{Y_1 + Y_2}{2}$ y aplicando la transformación $L$ a algo. Pero no puedo entender las matemáticas detrás de esto.

Answer 1

La "fórmula habitual" que conozco sólo requiere que la matriz de covarianza de $Y$ a saber $K:=LL'+\sigma^2I$ es invertible. Escribiendo $M:=LL'$ se tiene que la distribución condicional de $S$ dado que $Y=y$ es $n$ -variable normal con vector medio $MK^{-1}y$ y la matriz de covarianza $M-MK^{-1}M$ . En su ejemplo $M=\left( \begin{smallmatrix}1 & 1\\1 & 1 \end{smallmatrix}\right)$ y $K=\left( \begin{smallmatrix}1+\sigma^2 & 1\\1 & 1+\sigma^2 \end{smallmatrix}\right)$ por lo que el vector medio condicional es $\left( \begin{smallmatrix}(y_1+y_2)/(2+\sigma^2)\\(y_1+y_2)/(2+\sigma^2) \end{smallmatrix}\right)$ y la covarianza condicional es $\left( \begin{smallmatrix}\sigma^2/(2+\sigma^2) & \sigma^2/(2+\sigma^2)\\\sigma^2/(2+\sigma^2) & \sigma^2/(2+\sigma^2) \end{smallmatrix}\right)$ . (Supongo que $\epsilon$ y $Z$ son independientes).