¿Tienen densidades los procesos estocásticos como el proceso de Gauss o el proceso de Dirichlet? Si no es así, ¿cómo se les puede aplicar la regla de Bayes?

Question

A menudo se hace referencia a la Pocess Dirichlet y al Proceso de Gauss como "distribuciones sobre funciones" o "distribuciones sobre distribuciones". En ese caso, ¿puedo hablar con sentido de la densidad de una función bajo una GP? Es decir, ¿tienen el Proceso de Gauss o el Proceso de Dirichlet alguna noción de densidad de probabilidad?

Si no es así, ¿cómo podemos utilizar la regla de Bayes para pasar de la probabilidad a priori a la probabilidad a posteriori, si la noción de probabilidad a priori de una función no está bien definida? ¿Existen cosas como las estimaciones MAP o EAP en el mundo bayesiano no paramétrico? Muchas gracias.

Answer 1

Una "densidad" o "probabilidad" se relaciona con el teorema de Radon-Nikodym en teoría de medidas. Como señala @Xi'an, cuando se considera un conjunto finito de denominado observaciones parciales de un proceso estocástico, la probabilidad corresponde a la noción habitual de derivada de la medida de Lebesgue. de Lebesgue. Por ejemplo, la verosimilitud de un proceso gaussiano observado en un conjunto finito conocido de índices es la de un vector aleatorio gaussiano con cuya media y covarianza se deducen de las del proceso, que puede tomar formas parametrizadas.

En el caso idealizado en el que se dispone de un número infinito de observaciones disponibles de un proceso estocástico, la medida de probabilidad está en un infinito, por ejemplo un espacio de funciones continuas si el proceso estocástico tiene trayectorias continuas. Pero nada existe como una medida de Lebesgue en un espacio de dimensiones infinitas, por lo que no existe una definición directa de la probabilidad.

Para los procesos gaussianos existen algunos casos en los que podemos definir a probabilidad utilizando la noción de equivalencia de medidas gaussianas. Un ejemplo importante es ejemplo importante es el teorema de Girsanov, muy utilizado en las en matemáticas financieras. En él se define la probabilidad de una difusión de Itô $Y_t$ como la derivada respecto a la distribución de probabilidad de un proceso de Wiener estándar $B_t$ definido para $t \geq 0$ . Una exposición se encuentra en libro de Bernt Øksendal . En (próximo) libro de Särkkä y Solin ofrece una presentación más intuitiva que ayudará a los profesionales. Una brillante exposición matemática sobre Análisis y probabilidad en Espacios de dimensión infinita por Nate Elderedge está disponible.

Obsérvese que la probabilidad de un proceso estocástico que se completamente observado se denomina a veces probabilidad de relleno por estadísticos.