Estoy leyendo algo sobre el tema de modelado (con Latente de Dirichlet Asignación) que hace uso de muestreo de Gibbs. Como un novato en las estadísticas ... bueno, sé que cosas como binomios, multinomials, priores, etc -- me resulta difícil comprender cómo muestreo de Gibbs obras. Por favor alguien puede explicar en inglés simple y/o el uso de simples ejemplos? (Si usted no está familiarizado con el tema de modelado, cualquiera de los ejemplos va a hacer.) Gracias a todos de antemano.
Respuesta
¿Demasiados anuncios?
Eres un dungeonmaster de alojamiento de Calabozos y Dragones y un jugador lanza 'Hechizo de Eldritch un Clima Caótico (SECW). Usted nunca ha oído hablar de este hechizo antes, pero resulta que es bastante complicado. El jugador de manos de un denso libro y dice: "el efecto de este hechizo es que uno de los eventos en este libro se produce.' El libro contiene la friolera de 1000 diferentes efectos, y lo que es más, los eventos tienen diferentes relativa de probabilidades.' El libro indica que el suceso más probable es 'bola de fuego'; todas las probabilidades de los otros eventos se describen en relación a la probabilidad de 'bola de fuego'; por ejemplo: en la página 155, se dice que "el pato de la tormenta' es la mitad de la probabilidad como 'bola de fuego.'
Cómo está usted, el dungeonmaster, para una muestra de un evento aleatorio a partir de este libro? He aquí cómo usted puede hacerlo:
El aceptar-rechazar algoritmo:
1) Rollo de una d1000 a decidir 'candidato' evento.
2) Supongamos que el candidato evento es de 44% de probabilidad de que el suceso más probable, 'bola de fuego'. Luego de aceptar el candidato con una probabilidad de 44%. (Rollo de un d100, y aceptar si la tirada es de 44 o inferior. De lo contrario, volver al paso 1 hasta que acepte un evento).
3) El evento aceptado es su muestra aleatoria.
El aceptar-rechazar algoritmo garantiza la muestra de la distribución en la que se especifica relativa de probabilidades.
Después de mucho dados rodando finalmente terminan de aceptar a un candidato: 'convocar a la rana'. Respirar un suspiro de alivio ya que ahora se puede volver a la (de rutina en comparación) en los negocios de manejo de la batalla entre el troll de los orcos y dragones-elfos.
Sin embargo, para no ser menos, otro jugador decide lanzar 'Lv. 2 arcano cyber-efecto de la tormenta.' Para este hechizo, dos tipos de efectos aleatorios que se producen: una generada aleatoriamente ataque, y una generados al azar de carácter aficionado. El manual de este hechizo es tan enorme que sólo puede caber en un CD. El jugador botas y muestra una página. Su mandíbula cae: la entrada de cada ataque es tan grande el manual de la anterior hechizo, porque enumera una relación de probabilidad para cada posible que acompaña buff
'Cúprico Blade'
La más probable es que buff que acompaña a este ataque 'de Hotelling aura'
'El chacal de la Visión' es un 33% de probabilidades de acompañar a este ataque como "Hotelling aura'
'Tostadora Orejas' es el 20% de probabilidades de acompañar a este ataque como "Hotelling aura'
...
Del mismo modo, la probabilidad de un ataque concreto hechizo ocurra depende de la probabilidad de que el beneficio que producen.
Estaría justificado preguntarse si una adecuada distribución de probabilidad puede incluso ser definidos teniendo en cuenta esta información. Bueno, resulta que si no es uno, es el único especificado por las probabilidades condicionales que aparecen en el manual. Pero, ¿cómo muestra de ello?
Por suerte para usted, el CD viene con un sistema automatizado de Gibbs de la muestra, ya que tendría que pasar una eternidad haciendo la siguiente mano.
Muestreador de Gibbs algoritmo
1) Elija un ataque hechizo al azar
2) Utilizar el aceptar-rechazar algoritmo para elegir el beneficio condicional en el ataque
3) Olvidar el ataque hechizo que eligió en el paso 1. Elegir un nuevo ataque hechizo usando el aceptar-rechazar algoritmo condicional sobre el beneficio en el paso 2
4) Ir al paso 2, repita para siempre (aunque por lo general 10000 iteraciones será suficiente)
5) Cualquiera que sea su algoritmo tiene en la última iteración, es su ejemplo.
Se puede ver, en general, MCMC samplers son sólo asintóticamente garantizados para generar muestras de una distribución en la que se especifica probabilidades condicionales. Pero en muchos casos, MCMC samplers son la única solución práctica disponible.
