Asignar un error a los parámetros de la estimación MAP

Question

Mediante un muestreador de Gibbs MCMC obtengo $M$ cadenas del vector de parámetros $\mathbf{\theta}$ lo que significa que cada componente de $\mathbf{\theta}$ es el valor de un parámetro en una iteración determinada.

Como conozco la probabilidad y el prior he encontrado la estimación máxima a posteriori:

$$\hat{\mathbf{\theta}}=\underset{\mathbf{\theta}^{(1)},\,...,\,\mathbf{\theta}^{(M)}}{\operatorname{argmax}}\,p(\mathbf{\theta}),$$

Me gustaría tener un error en cada componente de $\hat{\mathbf{\theta}}$ .

Otra estimación de los mejores parámetros es la moda o la media de las cadenas MCMC para cada parámetro, para lo cual puedo considerar la desviación estándar como un error, pero esto no es lo que me interesa.

Answer 1

Dado que estamos tratando $\theta$ como vector de variables aleatorias creo que el término error es temáticamente incorrecto, de hecho uno de los puntos fuertes de los métodos bayesianos es la riqueza de información que se otorga sobre $\theta$ a través de su distribución posterior. Para los métodos de muestreo MCMC (de los cuales el muestreador de Gibbs es un tipo) la distribución posterior de los parámetros $\theta$ generalmente se puede obtener de esta manera:

1. Dejar que las cadenas converjan a estacionario (si es posible para el problema) - generalmente conocido como el período de burn-in.
2. Mantenga cada x muestras de $\theta$ . Dado que la cadena está correlacionada en el tiempo, sólo conservamos uno de cada x valores; este concepto se conoce como adelgazamiento. El valor de x suele ser un compromiso entre tiempo y precisión.
3. Las muestras conservadas de $\theta$ describe su distribución posterior para la que se puede calcular cualquier momento si se desea.