Para mi aplicación, tengo que calcular una integral sobre una distribución específica. Esta distribución se obtiene por inferencia Bayesiana - la densidad de la a $\Theta$ es proporcional a $P(\Theta)f(\Theta)$, para una Gaussiana antes de $P(\Theta)$ y una función conocida, $f$ dando la probabilidad de los datos de los parámetros de $\Theta$.
Mi entendimiento es que de Metropolis-Hastings es el método para este caso, pero he estado tratando de implementar un método alternativo que es más intuitivo para mí, y potencialmente pueden converger más rápido. Pero he estado teniendo algunos problemas con él, y me preguntaba si se pueden resolver, y cómo buscar más información.
La idea inicial es simplemente la muestra de partículas desde antes de la $P$, dar a cada partícula de un peso proporcional a $f$, y calcular un promedio ponderado de mi función deseada.
Pero si los datos indica los parámetros que son improbables de acuerdo a la previa, este método requiere un prohibitivo cantidad de partículas, ya que por lo que rara vez generar una partícula de significativo peso.
Por lo que la modificación es tener una estimación $Q$ para la distribución posterior (suponiendo una multivariante de Gauss es la adecuada para mi aplicación), muestra de ello, y dar a cada partícula $\Theta$ un peso de $f(\Theta)\frac{P(\Theta)}{Q(\Theta)}$. Esto se debe, si no me equivoco, dar el resultado correcto en promedio; y esta modificación ido bien en mis pruebas en juguete de los conjuntos de datos que presentan el fenómeno de la posterior distribución significativamente diferente de la anterior.
Mi problema es que este método realiza mal en mundano conjuntos de datos. Estoy bastante seguro de que esto es debido a que algunas de las partículas generadas serán los valores atípicos (según $Q$). La corrección de los dividiendo por la densidad de $Q$ da estas partículas de un enorme peso, así que en cualquier momento en que el promedio ponderado puede ser jalones hacia lo que son los valores de generar un valor atípico.
Así que, esto me trae de nuevo a los titulares de las preguntas. Este puede ser fijo, y hace que este método tiene un nombre?
He de considerar el uso de un uniforme de $Q$ en lugar de Gauss, pero si he de elegir su apoyo demasiado estrecho, que se pierda significativa de las regiones de la probabilidad de espacio, y si es demasiado amplia, la mayoría de las partículas se desperdicia en áreas fuera de la significativa la región (y sospecho que en cualquier ancho será demasiado estrecho o demasiado amplia, especialmente en altas dimensiones). También he considerado simplemente ignorando los valores atípicos, o tal vez la limitación de su peso, pero esto no parece correcto.
