¿Cómo puedo muestrear un posterior multivariado cuando puedo muestrear la verosimilitud y la prioridad?

Question

Supongamos que quiero muestrear la distribución posterior de un multivariante $\beta$ dado algún escalar $x$. Por el teorema de Bayes, esta distribución es

$$P(\beta|x) \propto P(x|\beta)P(\beta) $$

No tengo la forma exacta de $P(x|\beta)$ pero puedo generar muestras de ella. Tengo la forma exacta del prior $P(\beta)$ y puedo muestrear de ella. ¿Cómo convierto eso en una muestra de la posterior? ¿Puedo simplemente multiplicarlos juntos?

Answer 1

Esta situación, en la que la probabilidad no puede evaluarse pero puede ser muestreada, es un problema con el que ABC (Aproximación Bayesiana Aproximada) lidia. En general, obtener muestras del verdadero posterior no es posible en esta situación, pero usando varias técnicas de ABC, podemos obtener muestras que se aproximan al posterior.

Un algoritmo crudo pero fácil de implementar es simplemente usar el muestreo por rechazo. Dados tus datos $x$, podemos definir alguna estadística resumen $T(x)$ de nuestros datos - es más eficiente que $T(x)$ sea suficiente, aunque no es necesario. Una elección de $T(x)$ podría ser simplemente la media de los datos. Entonces, el algoritmo es:

1. Muestrear parámetros $\beta \sim p(\beta)$
2. Muestrear datos falsos condicionados a los parámetros: $x^* \sim p(x^* \vert \beta)$
3. Comparar la estadística resumen de nuestros datos falsos con nuestros datos reales - si son "suficientemente cercanos", digamos dentro de una distancia de $\epsilon$ uno del otro, aceptar $\beta$ como una muestra de nuestro posterior aproximado.

Este es solo uno de los muchos enfoques de ABC que podrías usar para resolver este problema.