Factorización de la probabilidad

Question

La optimización de la completa función de probabilidad es que a veces el tiempo que consume y contiene una gran cantidad numérica de problemas de inestabilidades, especialmente cuando la inversión de matrices es necesario. Si tenemos 3 vectores de entrada $\boldsymbol{y}_{1},\boldsymbol{y}_{2},\boldsymbol{y}_{3}$ deje $\mathbf{y}=[\boldsymbol{y}_{1},\boldsymbol{y}_{2},\boldsymbol{y}_{3}]$. Basado en esto, quiero el modelo de $\mathbf{y}$ $$ \mathbf{y}\sim N(0,K)$ $ , donde K es un conjunto de la matriz de covarianza entre los tres vectores de entrada. Las Entradas están conectados como se muestra en la figura a continuación: $\boldsymbol{y}_{1}$ $\boldsymbol{y}_{2}$ son independientes, mientras tanto $\boldsymbol{y}_{1}$ $\boldsymbol{y}_{2}$ dependen de la $\boldsymbol{y}_{3}$. En otras palabras, la matriz de covarianza $K$ se expresa de la siguiente manera $$K=\begin{pmatrix} k_{11} & 0 & k_{13}\\ 0& k_{22} & k_{23} \\ k_{13} & k_{23} & k_{33} \end{pmatrix}$$ Donde $k$ es cualquier postive semidefinite función de covarianza. Es allí cualquier manera específica en la que me a aprovechar esta independencia y factorizar el pleno de la probabilidad de la función, por ejemplo, se puede escribir $$f(\boldsymbol{y}_{1},\boldsymbol{y}_{2},\boldsymbol{y}_{3})=f(\boldsymbol{y}_{3}|\boldsymbol{y}_{1},\boldsymbol{y}_{2})*f(\boldsymbol{y}_{1})*f(\boldsymbol{y}_{2})$$ and optimize each part seprately? and what is the expression of $f(\boldsymbol{y}_{3}|\boldsymbol{y}_{1},\boldsymbol{y}_{2})$, dada la matriz de covarianza de arriba. También hay una forma específica en que puedo utilizar un compuesto probabilidad de enfoque, tales como pares método de probabilidad.

Cualquier buen referencias en tales normal de probabilidad factorizations es muy apreciada

Answer 1

No sé si esto termina siendo una buena cosa que hacer, pero usted puede expresar la distribución de $y_3$ condicional en $y_1,y_2$, que es una 1D Normal, usando el estándar de Schur complementar el método que se muestra en https://en.wikipedia.org/wiki/Multivariate_normal_distribution#Conditional_distributions .

Deje $\mu_1,\mu_2,\mu_3$ ser el medio de $y_1,y_2,y_3$.

Denotar $K_{12}$ como la matriz diagonal con entradas de $k_{11}$$k_{22}$, es decir, la matriz de covarianza de $[y_1,y_2]^T$. Su inversa se obtiene por la inversión de los elementos de la diagonal.

$y_3$ condicional en $[y_1,y_2]^{T} = [x_1,x_2]^{T}$ es Normal y tiene $$mean = \mu_3 + [k_{13},k_{23}] K_{12}^{-1} [x_1 - \mu1,x_2 - \mu_2]^{T}$$ y $$variance = k_{33} - [k_{13},k_{23}] K_{12}^{-1} [k_{13},k_{23}]^T$$