Cómo sesgada es esta sesgado de la moneda

Question

Supongamos que tenemos una moneda que sospechamos es parcial, pero que no sabemos con precisión cómo sesgada es: todo lo que sabemos es que su probabilidad p de aterrizaje de cabezas es cierto valor fijo entre .4 y .6, inclusive.

Nos tira la moneda al aire 100 veces, y cae de cabeza 70 veces. Tengo curiosidad de cómo encontrar la probabilidad de que .4 ≤ p ≤ .55.

Mi enfoque era encontrar

$$\frac{\int_{.4}^{.55}\binom{100}{70}p^{70}(1-p)^{30} dp}{\int_{.4}^{.6}\binom{100}{70}p^{70}(1-p)^{30} dp} ≈ .057$$

pero esto parece demasiado simplista. A donde voy mal?

EDIT: pido Disculpas, quise decir que p es distribuido uniformemente en [.4, .6], aunque ahora estoy curioso cómo íbamos a resolver si supiéramos que p está normalmente distribuida en [.4, .6].

Answer 1

Esta es una pregunta que naturalmente es adecuado para un enfoque Bayesiano. Supongamos que nuestro antes de la creencia acerca de la verdadera probabilidad de cabezas $p$ es modelada por algunos de distribución de $f(p)$. A continuación, llevamos a cabo el experimento de darle la vuelta a la moneda de $n$ veces y observar el número de $X$ de las cabezas, que se supone que siguen una distribución binomial, específicamente $$X \mid p \sim \operatorname{Binomial}(n,p).$$ Thus $$\Pr[X = x \mid p] \propto p^x (1-p)^{n-x}$$ represents a likelihood function $L(x \a mediados de p)$ for the sample, and the posterior distribution of our belief about the parameter $p$ is given by Bayes' theorem $$f(p \mid x) \propto L(x \mid p) f(p).$$ For a Bernoulli/binomial likelihood, the choice of prior distribution that gives a posterior in the same parametric family happens to be a beta distribution: i.e., if $p \sim \operatorname{Beta}(a,b)$ for suitable hyperparameters $a, b$, the posterior $p \mid x \sim \operatorname{Beta}(a^*, b^*)$, for new posterior hyperparameters $^*, b^*$; specifically, $$a^* = a + x, \quad b^* = b + n - x.$$ (The proof of this is left as an exercise for the reader.) However, when the prior is not beta distributed, the posterior may not be either. We explore this calculation for the choice of prior $$p \sim \operatorname{Uniform}(0.4, 0.6).$$ We calculate: $$f(p \mid x = 70) \propto \begin{cases} p^{70} (1-p)^{30}, & p \in [0.4, 0.6] \\ 0, & \text{otherwise}. \end{cases}$$ Note the subtlety: because the prior for $p$ was confined to $[0.4, 0.6]$, the posterior is also necessarily confined to this range, even if the sample proportion $\sombrero p = x/n$ is not in this range, because $$f(p) = \begin{cases} 5, & p \in [0.4, 0.6] \\ 0, & \text{otherwise}. \end{cases}$$ Consequently, the posterior density must be $$f(p \mid x = 70) = \frac{p^{70}(1-p)^{30}}{\int_{p=0.4}^{0.6} p^{70}(1-p)^{30} \, dp},$$ and the probability that $p \en [0.4, 0.55]$ is simply $$\Pr[0.4 \le p \le 0.55] = \frac{\int_{p=0.4}^{0.55} p^{70}(1-p)^{30} \, dp}{\int_{p=0.4}^{0.6} p^{70}(1-p)^{30} \, dp} \approx 0.0571106,$$ como se reivindica.

Ahora, si vamos a utilizar una diferente antes de $p$, la distribución posterior y deseado probabilidad, será también diferente. Como es absurdo decir que "normalmente distribuido en $[0.4,0.6]$," vamos a utilizar un adecuado beta antes de que se "ve más o menos normal" en este intervalo. Claramente, el modo debe ser de al $0.5$, en consecuencia, un beta antes debe tener $a = b$. En cuanto a la elección de común hyperparameter, si asumimos que aproximadamente el $95\%$ de la densidad de probabilidad debe estar en $[0.4,0.6]$, entonces la aproximación numérica da la opción de $a \approx 47.2998$, así que vamos a elegir a $a = b = 48$. Entonces, como esto antes es conjugado, simplemente tenemos $$p \mid x \sim \operatorname{Beta}(a^* = 48 + 70 = 118, b^* = 48 + 30 = 78),$$ and it follows that $$\Pr[0.4 \le p \le 0.55] \approx 0.0695632.$$

Answer 2

La integración de cálculo es correcto.

Como una ilustración de la cuestión, si $p=0.6$, la probabilidad de ver $70$ $100$ cabezas es acerca de $0.0100075$.

Por el contrario, si $p=0.55$, la probabilidad de ver $70$ $100$ cabezas es acerca de $0.0007757151$, menos de una doceava parte de la anterior probabilidad y la probabilidad sería aún menor para los más pequeños de $p$.

Así que si usted realmente cree que su declaración "todo lo que sabemos es que su probabilidad de $p$ de aterrizaje de cabezas es cierto valor fijo entre el$0.4$$0.6$" ver $70$ $100$ cabezas debería empujar su creencia fuertemente hacia el pensamiento de $p$ es probable que cerca de $0.6$.

Esto es lo que su cálculo Bayesiano con una previa distribución uniforme en $[0.4,0.6]$. De hecho, usted encontrará que hay una probabilidad posterior por encima de $0.5$ que $0.586 \le p \le 0.6$.

Antes de cualquier distribución que da una probabilidad razonable de $p$ estar cerca de $0.6$, después de ver $70$ $100$ cabezas, dar una pequeña probabilidad posterior de estar debajo de $0.55$.

Answer 3

Una buena manera de pensar sobre esto es en términos de la siguiente experimento mental. Se selecciona aleatoriamente un gran número de monedas falsas. Cada moneda tiene algún valor aleatorio de $p$ le asigna, a partir de una distribución de probabilidad $\rho(p)$. Nos flip cada falsas coin $100$ veces. Si el resultado no es $70$ jefes, los eliminamos. ¿Cómo son los resultados que nos interesan (= $70$ veces la cabeza) distribuidos por $p$? Podemos calcular la probabilidad Bayesiana que $p$ provenían del intervalo de $(a,b)$ está dada por:

$$P(a \le p \le b) = \frac {\int_{a}^{b} \rho(p)p^{70}(1-p)^{30}dp} {\int_{0}^{1} \rho(p)p^{70}(1-p)^{30}dp}$$

Tenga en cuenta que he omitido los factoriales en el denominador y el numerador, ya que no aportan nada y simplemente cancelar. Puede sustituir cualquier a priori de la estimación de la distribución de probabilidad de $\rho(p)$ y evaluar la ecuación anterior. El factor de $p^{70}(1-p)^{30}$ es muy alcanzó su punto máximo alrededor de el valor de $0.70$. Como consecuencia de los intervalos de $(a,b)$ que contienen este valor tienden a tener una alta probabilidad, mientras que los intervalos sin que tienden a tener una baja probabilidad.