Comprender el muestreo de rechazo

Question

En el muestreo de rechazo de aceptación, ¿cuál es la intuición que subyace al uso de la fórmula para hallar c( una constante que envuelve la función de densidad objetivo):

$$c\geq derivative\left(\frac{target\ distribution}{proposed\ distribution}\right)$$

No entiendo por qué ni cómo funciona esto.

Answer 1

El muestreo de aceptación/rechazo es un método a primera vista inteligente, pero en última instancia pedestre (y a menudo relativamente ineficaz). algoritmo para generar instancias aleatorias de una variable aleatoria $\mathbb{X}$ según un pdf dado arbitrariamente $f_{\mathbb{X}}$ . La idea es utilizar una distribución conocida $f_0$ con un generador de instancias aleatorias eficiente (por ejemplo, en R: dnorm, dpois, dgamma, etc.) que tiene el mismo soporte que su $\mathbb{X}$ . A continuación, como número de prueba $x'$ se crea a partir de $f_0$ el algoritmo decide si utiliza $x'$ para $f_{\mathbb{X}}$ basado en una prueba de un uniforme-(0,1) $\rho$ comparando la relación $f_{\mathbb{X}}(x')/f_0(x')$ a $\rho$ . Si la relación es inferior a $\rho$ entonces $x'$ se acepta como una instancia de $f_{\mathbb{x}}$ . Es evidente que la relación $f_\mathbb{X}/f_0$ tiene que estar en el intervalo unitario $(0,1)$ así que $f_{\mathbb{X}}(x') \le f_0(x')$ para todos $x'$ . Para lograrlo -- y como truco de ingeniería -- podemos multiplicar $f_0$ por una constante $c$ (del mismo modo podríamos dividir el cociente por $c$ ) para que la relación sea siempre $\le 1$ ). $c$ se elige $max ( f_\mathbb{X}(x')/f_0(x') ) $ . Esto hace que el algoritmo lo más eficiente posible (a menudo sigue sin ser especialmente eficiente), ya que minimiza los eventos de rechazo. Idealmente, la distribución de la prueba $f_0$ se ajusta a la distribución deseada $f_{\mathbb{X}}$ "como un guante", envolviéndolo con poca o ninguna superficie extra entre las curvas. La ineficiencia se define como la fracción de $x'$ s que se rechazan. El valor de la ineficacia es el cociente área entre las curvas/ $c$ y la eficiencia es $1-$ ineficiencia.

Usted escribe que

$c \ge$ derivada(distribución objetivo/distribución propuesta)

lo que casi tiene sentido. ¿Qué te parece esto? La proporción $f/f_0$ evaluado en $x=x^*$ es un extremo (probablemente un máximo), entonces $(f/f_0)'|_{x^*} =0$ . Así que parece que se le pide que demuestre que $$ \frac{d}{dx} \frac{f_{\mathbb{X}}(x)}{f_0(x)} \biggr \lvert_{x^*} =0 $$ implica $$ \frac{f'_{\mathbb{X}}(x^*)}{f'_0(x^*)} =\frac{f_{\mathbb{X}}(x^*)}{f_0(x^*)} \le c $$ que se deduce de la regla del cociente y de la definición de $c$ arriba.

Ahora usted está en el gancho para demostrar que el extremo es un máximo . . . ¡Puedes hacerlo!