¿Cuál es la relación detrás de Jeffreys priores y una varianza estabilización de transformación?

Question

Estaba leyendo acerca de la Jeffreys antes en la wikipedia: Jeffreys Antes y vi que después de cada ejemplo, se describe cómo una variación de estabilización de transformación que convierte la Jeffreys antes en un uniforme antes.

Como un ejemplo, para el caso de Bernoulli, se establece que para que una moneda que es la cabeza con probabilidad de $\gamma \in [0,1]$, el ensayo de Bernoulli modelo de rendimientos que el Jeffreys previo para el parámetro $\gamma$ es:

$$ p(\gamma) \propto \frac{1}{\sqrt{\gamma ( 1-\gamma)}} $$

Entonces se dice que es una distribución beta con $\alpha = \beta = \frac{1}{2}$. También establece que si $\gamma = \sin^2(\theta)$, entonces el Jeffreys antes de $\theta$ es uniforme en el intervalo de $\left[0, \frac{\pi}{2}\right]$.

Reconozco la transformación como la de una variación de estabilización de la transformación. Lo que me confunde es:

1. ¿Por qué una variación de estabilización resultado de transformación en un uniforme de antes?

2. ¿Por qué íbamos a querer incluso un uniforme antes? (ya que parece que pueden ser más susceptibles a ser inapropiado)

En general, no estoy muy seguro de por qué el cuadrado de la onda sinusoidal de transformación y ¿qué papel juega. Alguien tiene alguna idea?

Answer 1

La Wikipedia la página que has proporcionado no realmente uso el término "variación de estabilización de la transformación". El término "variación de estabilización de la transformación" se utiliza generalmente para indicar transformaciones que hacen que la varianza de la variable aleatoria constante. Aunque en el caso de Bernoulli, esto es lo que está sucediendo con el proceso de transformación, que no es exactamente lo que el objetivo es. El objetivo es conseguir una distribución uniforme, y no sólo una variación de estabilización.

Recordemos que uno de los principales propósitos del uso de Jeffreys antes es que es invariante bajo la transformación. Esto significa que si vuelve a la parametrización de las variables, el estado no va a cambiar.

1.

El Jeffreys antes en este Bernoulli caso, como usted ha señalado, es una Beta$(1/2, 1/2)$. $$p_{\gamma}(\gamma) \propto \dfrac{1}{\sqrt{\gamma(1-\gamma)}}.$$

Reparametrizing con $\gamma = \sin^2(\theta)$, podemos encontrar la distribución de $\theta$. En primer lugar vamos a ver que $\theta = \arcsin(\sqrt{\gamma})$, y desde $0 < \gamma < 1$, $0 < \theta < \pi/2$. Recordemos que $\sin^2(x) + \cos^2(x) = 1$. \begin{align*} F_{\theta}(x) & = P(\theta < x)\\ & = P(\sin^2(\theta) < \sin^2(x))\\ & = P(\gamma < \sin^2(x))\\ & = F_{\gamma}(\sin^2(x))\\ f_{\theta}(x) & = \dfrac{d F_{\gamma}(\sin^2(x)}{d x}\\ & = 2\sin(x)\cos(x)\,p_{\gamma}(\sin^2(x))\\ & \propto \sin(x)\cos(x) \dfrac{1}{\sqrt{\sin^2(x)(1 - \sin^2(x))}}\\ & =1. \end{align*}

Por lo tanto $\theta$ es la distribución uniforme en $(0, \pi/2)$. Esta es la razón por la $\sin^2(\theta)$ transformación se utiliza, por lo que la re-configuración de parámetros conduce a una distribución uniforme. La distribución uniforme es ahora el Jeffreys antes en $\theta$ (desde Jeffreys antes es invariante bajo la transformación). Esto responde a su primera pregunta.

2.

A menudo en el análisis Bayesiano se quiere un uniforme antes cuando no hay suficiente información o conocimiento previo acerca de la distribución del parámetro. Tal antes de también se llama una "difusa antes de" o "por defecto antes". La idea es no cometer para cualquier valor del parámetro espacio de más de otros valores. En tal caso, la parte posterior es completamente dependiente de los datos de probabilidad. Desde entonces, $$q(\theta|x) \propto f(x|\theta) f(\theta) \propto f(x|\theta).$$

Si la transformación es tal que la transforman el espacio es acotado, (como $(0, \pi/2)$ en este ejemplo), entonces la distribución uniforme será la correcta. Si el transformado el espacio es ilimitado, entonces el uniforme antes va a ser incorrecta, pero a menudo el resultado posterior será la correcta. Aunque, uno debe siempre verificar que este es el caso.

Answer 2

El Jeffreys antes es invariante bajo reparametrization. Por esa razón, muchos Bayesians consideran que es un "no-informativo antes". (Hartigan mostró que hay todo un espacio de dichos priores $J^\alpha H^\beta$ $\alpha + \beta=1$ donde $J$ es Jeffreys previo e $H$ es Hartigan es localmente asintóticamente invariante antes. - Invariante De Las Distribuciones Previas)

Es lo que a menudo se repite la mentira de que el uniforme antes no es informativo, pero después de un arbitrario de la transformación de sus parámetros, y un uniforme antes en los nuevos parámetros significa algo completamente diferente. Si un cambio arbitrario de parametrización afecta a su antes, su prior es claramente informativo.

1. El uso de la Jeffreys es, por definición, equivalente al uso de una tv de antes de después de la aplicación de la varianza de la estabilización de la transformación.

2. Desde un punto de vista matemático, el uso de la Jeffreys antes, y el uso de una tv de antes de después de la aplicación de la varianza de estabilización de transformación son equivalentes. Desde un punto de vista humano, el último es, probablemente, más agradable debido a que el espacio de parámetros que se convierte en "homogéneo" en el sentido de que las diferencias son todos de la misma en cada dirección no importa dónde usted está en el espacio de parámetros.

Considere la posibilidad de su Bernoulli ejemplo. No es un poco raro que la puntuación de 99% en una prueba es la misma distancia que el 90% 59% 50%? Después de que su variación de estabilización de la transformación de la ex pareja están más separados, como debe ser. Coincide con nuestra intuición acerca de las distancias reales en el espacio. (Matemáticamente, la varianza de estabilización de la transformación es la realización de la curvatura de la log-pérdida igual a la matriz identidad.)