Significado físico de la elección de la distribución de la propuesta en los métodos Markov Chain Monte Carlo (MCMC)

Question

Consideremos las convenciones sobre los nombres utilizados en la derivación teórica de Metrópolis-Hastings Monte Carlo, como se indica aquí para la nomenclatura común.

Lo que estamos construyendo es un algoritmo Markov Chain Monte Carlo (MCMC) paso a paso para describir la evolución de un sistema en un estado inicial hacia un estado final distribuido según una distribución de probabilidad deseada $P(x)$ . Esta última frase debe leerse en el sentido de que las repetidas iteraciones del algoritmo, sobre distintos estados iniciales, conducen a un conjunto de estados distribuidos según una distribución deseada $P(x)$ .

Para cada una de estas iteraciones, durante cada paso, dado un estado inicial $x$ para el sistema y un estado final $x'$ la probabilidad de que el sistema pase de $x$ a $x'$ se factoriza en la probabilidad de la propuesta $g(x'|x)$ y la probabilidad de aceptación $A(x'|x)$ -- es decir $P(x'|x) = g(x'|x) A(x'|x)$ .

El significado de la probabilidad de propuesta es el de ser la probabilidad asociada a proponer el siguiente estado a ser $x'$ si partimos del estado $x$ . La de la probabilidad de aceptación es la probabilidad de aceptar el estado $x'$ si partimos del estado inicial $x$ y se deriva de la distribución final deseada de los estados $P(x)$ -- aparte de las fluctuaciones físicamente justificadas, se aceptan los estados más probables y se rechazan los menos.

Todo lo expuesto anteriormente es válido para cualquier método MCMC.

En un escenario común, el caso específico del proceso Metrópolis -- que es un método MCMC particular -- elegimos $g(x'|x)$ para ser simétrico. Pero además de serlo, generalmente no planteamos ninguna otra restricción a esta elección.

Me dejó algunas preguntas abiertas: ¿cómo influye la elección de la forma de la distribución de la propuesta en el algoritmo MCMC? ¿Depende del sistema en análisis? En concreto, ¿hay algún significado físico detrás de la elección de la distribución de la propuesta $g(x'|x)$ ?

Answer 1

$g(x'\vert x)$ no tiene un significado físico, en el sentido de que no influye en el conjunto que se muestrea y, por tanto, no influye en los observables físicos (siempre que se conserve el equilibrio detallado y se pueda acceder a todo el espacio de fases). Sin embargo, la elección de $g(x'\vert x)$ es un detalle de implementación que puede y debe ajustarse a un problema específico. Por lo tanto, es probable que contenga un conocimiento previo del sistema. Por ejemplo, cuando se simula una molécula se quiere sugerir pequeños cambios en las longitudes de los enlaces, pero mayores cambios en los ángulos diedros, ya que el potencial diedro es típicamente mucho más suave que el potencial de longitud de los enlaces.

En general, la elección de $g(x'\vert x)$ tiene que equilibrar dos aspectos: Si los pasos son demasiado grandes, se rechazará una cantidad abrumadora de ellos. Si los pasos son demasiado pequeños, se necesita una gran cantidad de pasos para moverse por el espacio de fase.

Las técnicas que van más allá del algoritmo estándar de Metrópolis-Hastings son, por ejemplo, Multiple Try Monte Carlo y Force-Biased Monte Carlo.