2 votos

Modelo binomial beta - cómo derivar la distribución posterior

Estoy tratando de trabajar con el Modelo binomial beta para el aprendizaje automático y la teoría de la probabilidad bayesiana.

Aquí tenemos el Probabilidad para el modelo Beta-Binomial:

Beta_Binomial_likelihood

Aquí tenemos el Anteriormente :

Beta_Binomial_prior

Y si los multiplicáramos, obtendríamos esto:

posterior_1

Mi primera pregunta es la siguiente: El libro de texto dice que la distribución a priori es proporcional a la probabilidad multiplicada por la propia prioridad:

proportional_prior

Pero, ¿cómo es posible? El $p(D | \theta)$ término NO ES CONSTANTE - varía según $\theta$ varía (y NO necesariamente de forma proporcional con $p(\theta)$ ), ¿correcto?

Y mi segunda pregunta es la siguiente: El libro de texto también dice que el posterior es esto:

proportional_posterior

Ya he intentado derivar esto, pero no he tenido suerte. ¿Podría alguien darme un par de pasos en la dirección correcta para esto también? ¿De dónde vienen los términos 1 Bin y 2 Beta?

Gracias de antemano

3voto

Nikolai Prokoschenko Puntos 2507

Habría esperado que el libro dijera que la posterior es proporcional a la probabilidad multiplicada por la anterior, así que en su notación $$p(\theta \mid \mathcal{D}) \propto p(\mathcal{D}\mid \theta)\,p( \theta)$$ y a su última línea parece faltarle un símbolo

$$p(\theta \mid \mathcal{D}) \propto \text{Bin}(N_1\mid \theta, N_0+N_1) \, \text{Beta}(\theta \mid a,b) \propto \text{Beta}(\theta \mid N_1+a,N_0+b) $$

con

  • el binomio $p(\mathcal{D}\mid \theta)=\text{Bin}(N_1\mid \theta, N_0+N_1)$ siendo proporcional a la probabilidad y
  • la Beta $p( \theta) =\text{Beta}(\theta \mid a,b)$ siendo el previo conjugado para $\theta$ y
  • la Beta $p(\theta \mid \mathcal{D}) = \text{Beta}(\theta \mid N_1+a,N_0+b) $ siendo la distribución posterior de $\theta$

i-Ciencias.com

I-Ciencias es una comunidad de estudiantes y amantes de la ciencia en la que puedes resolver tus problemas y dudas.
Puedes consultar las preguntas de otros usuarios, hacer tus propias preguntas o resolver las de los demás.

Powered by:

X