esta pregunta es acerca de Bayesiana y estadística computacional. Yo estoy aprendiendo ahora mismo, tengo dos muy común de la salida de mi software, uno es de Laplace de la aproximación y el otro es Modificado la media armónica. Dos de ellos son utilizados para la aproximación de registro marginales de la probabilidad, que suelen tener muy cerca de valor. ¿Cuáles son sus diferencias? Y alguien podría proporcionarme algún conocimiento de fondo ninguno de estos métodos? Gracias!
Respuesta
¿Demasiados anuncios?
Supongo que se refiere a la estimación de probabilidad marginal. Laplace aproximación se utiliza para aproximar una marginales de la probabilidad basada en la distribución normal. Estimación resultante es la siguiente:
$$f(y)\approx (2\pi)^{d}|\widetilde{\Sigma}|^{1/2}f(y|\widetilde{\theta})f(\widetilde{\theta})$$
Donde $\widetilde{\theta}$ es una posterior modo (puede ser estimada a partir de MCMC de salida) y $\widetilde{\Sigma}$ es la inversa de la matriz Hessiana basado en la log-verosimilitud y evaluados en el posterior modo (esto puede evaluarse a partir de la MCMC de salida), $f(y|\theta)$ su probabilidad e $f(\theta)$ es antes de la distribución.
Esta aproximación funciona bien si su posterior distribución es similar a la distribución normal.
El segundo estimador, modificado (generalizada) media armónica estimador se obtiene la siguiente identidad:
$$\frac{1}{f(y)}=\int \frac{1}{f(y)}g(\theta)d \theta=\int \frac{1}{f(y|\theta)f(\theta)}f(\theta|y)g(\theta)d \theta=\int \frac{g(\theta)}{f(y|\theta)f(\theta)}f(\theta|y)d \theta=E_{f(\theta|y)}\left [ \frac{g(\theta)}{f(y|\theta)f(\theta)} \right ]$$
Aquí $g(\theta)$ es cualquier "importancia" de la densidad y tiene que estar cerca de la parte posterior. Así que estos dos, Laplace y generalizado de la media armónica, los estimadores son marginales probabilidad de que la estimación del valor.
Sin embargo, son de diferentes orígenes y se comportan de manera diferente: Laplace estimador de aproximación basado en el estimador y no funcionará si su posterior no es en forma de campana de distribución (multimodal o muy skewd). De lo contrario, funciona bastante bien. Generlized estimador de la media armónica se basa en la identidad exacta y, en teoría, se debería proporcionar estimaciones precisas, sin embargo, como su pariente cercano el estimador de la media armónica, que es muy sensible. No saben más acerca de su rendimiento, pero su relativa del estimador de la media armónica es generalmente de muy mal comportamiento del estimador. Yo no lo uso en mi trabajo.
Espero que respondió a su pregunta.
