Dado que uno puede degustar $X \sim f(x)$, hay una manera fácil de muestra $Y \sim k \cdot f(g(y))$ (como $k \cdot f(e^y)$)?

Question

Dicen que yo soy capaz de probar un RV $X$ a partir de un PDF $f(x)$, puedo aprovechar esta eficientemente muestra otra RV $Y \sim k \cdot f(g(y))$ (donde $k$ es una normalización de la constante)?

Estoy interesado en algo de un muestreador de Gibbs que sería mejor que el uso de la Metrópoli, la rebanada, la inversa de la transformación de muestreo, etc.

Answer 1

Si la inversa de a $g(y)$, es decir,$g^{-1}(x)$, es relativamente lineal para los valores más probables extraídas de $f(x)$, entonces el siguiente método debe tener una razonable tasa de aceptación. Estoy asumiendo $g(y)$ es estrictamente monótona - con el fin de que se tiene un inverso.

Esto es de Metropolis-Hastings. Hacemos una propuesta y, a continuación, aceptar o rechazar de manera apropiada.

Hacer un sorteo de tu sampler, $x \sim f(x)$, y la alimentación que a la inversa para obtener una propuesta de $y_{proposal} = g^{-1}(x)$. La probabilidad de que la propuesta es proporcional a $$\propto \frac{f(x)}{ \left| \frac{d}{dx} g^{-1}(x) \right| } $$

Esa expresión que se utiliza la derivada de la inversa de la cuenta por el hecho de que se overrepresent áreas donde g^{-1} es relativamente constante.

Debemos calcular la propuesta probabilty por tanto la propuesta de valor, $y_{proposal}$, y el valor actual, $y_{current}$. También se pueden usar las definiciones de $x_{proposal} = g(y_{proposal})$$x_{current} = g(y_{current})$.

$$ Acceptance~probability = \operatorname{min} \left(1, \frac{ f(g(y_{proposal})) }{ f(g(y_{current})) } \frac{ \frac{f(x_{current})}{ \left| \frac{d}{dx} g^{-1}(x_{current}) \right| } }{ \frac{f(x_{proposal})}{ \left| \frac{d}{dx} g^{-1}(x_{proposal}) \right| } } \right) $$

No te preocupes por el valor absoluto $|\cdot|$ en la ecuación. $g(y)$ está aumentando en todas partes o disminuyendo en todas partes y por lo tanto los valores absolutos se anulan.

Podemos hacer un montón de cancelación de aquí, en particular, recuerde que $x = g(y)$.

$$ Acceptance~probability = \operatorname{min} \left(1, \frac{ f(x_{proposal}) }{ f(x_{current}) } \frac{ \frac{f(x_{current})}{ \left| \frac{d}{dx} g^{-1}(x_{current}) \right| } }{ \frac{f(x_{proposal})}{ \left| \frac{d}{dx} g^{-1}(x_{proposal}) \right| } } \right) $$

$$ Acceptance~probability = \operatorname{min} \left(1, \frac{ { \frac{d}{dx} g^{-1}(x_{proposal}) } }{ { \frac{d}{dx} g^{-1}(x_{current}) } } \right) $$

Por último, creo que se puede reorganizar un poco más, y hacer uso del hecho de que la derivada de la inversa es la inversa de la derivada de la función original:

$$ Acceptance~probability = \operatorname{min} \left(1, \frac{ { \frac{d}{dy} g(y_{current}) } }{ { \frac{d}{dy} g(y_{proposal}) } } \right) $$