¿Por qué no usar el teorema de Bayes en la forma$p(\theta | x) = \frac{L(\theta | x) p(\theta)}{p(x)}$?

Question

Hay un montón de preguntas (como este) sobre cierta ambigüedad con Bayesiana de la fórmula en el caso continuo.

$$p(\theta | x) = \frac{p(x | \theta) \cdot p(\theta)}{p(x)}$$

A menudo, la confusión surge del hecho de que la definición de la distribución condicional $f(variable | parameter) $ es explicado como $f$ siendo la función de $variable$ fijos $parameter$.

Junto con eso, hay un principio de equivalencia que indica que la probabilidad puede ser escrita como: $$ L(\theta | x) = p(x | \theta)$$

Así que ¿por qué no utilizar la regla de Bayes para las distribuciones en el siguiente formulario:

$$p(\theta | x) = \frac{L(\theta | x) \cdot p(\theta)}{p(x)}$$

destacar que estamos tratando con funciones de $\theta$ dados los datos observados $x$, y que el respectivo término es la probabilidad (al menos, a partir de con $L$)?

Es esta una cuestión de tradición, o hay algo más fundamental en esta práctica?

Answer 1

La función de probabilidad es simplemente proporcional a la densidad de muestreo, por lo que ha $L_x(\theta) = k \cdot p(x|\theta)$ para algunas constantes $k > 0$. Si desea utilizar esto en su expresión por el teorema de Bayes se tiene que incluir la misma escala constante en el denominador:

$$p(\theta|x) = \frac{L_x(\theta) \cdot p(\theta)}{k \cdot p(x)} = \frac{L_x(\theta) \cdot p(\theta)}{\int L_x(\theta) \cdot p(\theta) \ d \theta} \propto L_x(\theta) \cdot p(\theta).$$

Si en lugar de utilizar la fórmula que usted ha propuesto, entonces usted va a terminar con un kernel de la parte posterior de la densidad, pero no puede integrar a uno (y por lo tanto no es en general una densidad).

Answer 2

Hay dos resultados básicos de la probabilidad de que son en el trabajo en el teorema de Bayes. Uno es una forma de reescritura de una conjunta de la función de densidad de probabilidad:

$$p(x,\,y)=p(x\,|\,y)p(y).$$

La otra es una fórmula para el cálculo de una probabilidad condicional de la función de densidad:

$$p(y\,|\,x)=\frac{p(x,\,y)}{p(x)}.$$

Teorema de Bayes sólo puntadas juntas estas dos cosas:

$$p(\theta\,|\,x)=\frac{p(x,\,\theta)}{p(x)}=\frac{p(x\,|\,\theta)p(\theta)}{p(x)}$$

Por lo tanto los datos de $x$ y los parámetros de $\theta$ son variables aleatorias conjuntas pdf

$$p(x,\,\theta)=p(x\,|\,\theta)p(\theta),$$ y eso es lo que aparece en el numerador en el teorema de Bayes. Así que la escritura de la probabilidad como una condición de densidad de probabilidad en lugar de como una función de $L$ de los parámetros que se hace claro que la probabilidad de base en el juego.

Que todo lo dicho, verás a la gente utilizar, como aquí o aquí.