¿Por qué hay -1 en la función de densidad de la distribución beta?

Question

La distribución beta aparece en dos parametrizaciones (o aquí )

$$ f(x) \propto x^{\alpha} (1-x)^{\beta} \tag{1} $$

o el que parece usarse más comúnmente

$$ f(x) \propto x^{\alpha-1} (1-x)^{\beta-1} \tag{2} $$

Pero, ¿por qué exactamente hay " $-1$ "en la segunda fórmula?

La primera formulación es intuitiva parece para corresponder más directamente a la distribución binomial

$$ g(k) \propto p^k (1-p)^{n-k} \tag{3} $$

pero "visto" desde el $p$ perspectiva de la empresa . Esto es especialmente claro en modelo beta-binomial donde $\alpha$ puede entenderse como un antes número de éxitos y $\beta$ es un antes número de fallos.

Entonces, ¿por qué exactamente ganó popularidad la segunda forma y cuál es el razonamiento ¿detrás de él? ¿Cuáles son las consecuencias de utilizar cualquiera de las parametrizaciones (por ejemplo, para la conexión con la distribución binomial)?

Sería estupendo si alguien pudiera señalar adicionalmente los orígenes de dicha elección y los argumentos iniciales para ello, pero no es una necesidad para mí.

Answer 1

Esta es una historia sobre los grados de libertad y los parámetros estadísticos y por qué es bueno que ambos tengan una conexión directa y sencilla.

Históricamente, el " $-1$ "aparecieron en los estudios de Euler sobre la función Beta. En 1763, Euler ya utilizaba esta parametrización, al igual que Adrien-Marie Legendre: su uso estableció la convención matemática posterior. Este trabajo es anterior a todas las aplicaciones estadísticas conocidas.

La teoría matemática moderna proporciona amplios indicios, a través de la riqueza de las aplicaciones en el análisis, la teoría de números y la geometría, de que la " $-1$ " tienen realmente algún significado. He esbozado algunas de esas razones en los comentarios a la pregunta.

Es más interesante saber cuál debe ser la parametrización estadística "correcta". Eso no está tan claro y no tiene por qué ser la misma que la convención matemática. Existe una enorme red de familias de distribuciones de probabilidad comúnmente utilizadas, bien conocidas e interrelacionadas. Así, las convenciones utilizadas para nombrar (es decir, parametrizar) una familia suelen implicar convenciones relacionadas para nombrar familias relacionadas. Si se cambia una parametrización, se querrán cambiar todas. Por lo tanto, podemos buscar pistas en estas relaciones.

Pocas personas estarían en desacuerdo con que las familias de distribución más importantes derivan de la familia Normal. Recordemos que una variable aleatoria $X$ se dice que está "normalmente distribuida" cuando $(X-\mu)/\sigma$ tiene una densidad de probabilidad $f(x)$ proporcional a $\exp(-x^2/2)$ . Cuando $\sigma=1$ y $\mu=0$ , $X$ se dice que tiene un estándar distribución normal.

Muchos conjuntos de datos $x_1, x_2, \ldots, x_n$ se estudian utilizando estadísticas relativamente sencillas que implican combinaciones racionales de los datos y potencias bajas (normalmente cuadrados). Cuando esos datos se modelan como muestras aleatorias de una distribución Normal -de modo que cada $x_i$ se ve como una realización de una variable Normal $X_i$ , todos los $X_i$ comparten una distribución común y son independientes: las distribuciones de esos estadísticos están determinadas por esa distribución Normal. Las que surgen con más frecuencia en la práctica son

1. $t_\nu$ , el estudiante $t$ distribución con $\nu = n-1$ "grados de libertad". Esta es la distribución de la estadística $$t = \frac{\bar X}{\operatorname{se}(X)}$$ donde $\bar X = (X_1 + X_2 + \cdots + X_n)/n$ modela la media de los datos y $\operatorname{se}(X) = (1/\sqrt{n})\sqrt{(X_1^2+X_2^2 + \cdots + X_n^2)/(n-1) - \bar X^2}$ es el error estándar de la media. La división por $n-1$ muestra que $n$ debe ser $2$ o mayor, de donde $\nu$ es un número entero $1$ o mayor. La fórmula, aunque aparentemente un poco complicada, es la raíz cuadrada de una función racional de los datos de grado dos: es relativamente sencilla.

2. $\chi^2_\nu$ , el $\chi^2$ (chi-cuadrado) distribución con $\nu$ "grados de libertad" (d.f.). Se trata de la distribución de la suma de los cuadrados de $\nu$ variables normales independientes. La distribución de la media de los cuadrados de estas variables será, por tanto, una $\chi^2$ distribución escalada por $1/\nu$ : Me referiré a esto como un "normalizado" $\chi^2$ distribución.

3. $F_{\nu_1, \nu_2}$ , el $F$ distribución de la relación con los parámetros $(\nu_1, \nu_2)$ es el cociente de dos normalizados independientes $\chi^2$ distribuciones con $\nu_1$ y $\nu_2$ grados de libertad.

Los cálculos matemáticos muestran que las tres distribuciones tienen densidades. Es importante destacar que la densidad de la $\chi^2_\nu$ es proporcional al integrando en la definición integral de Euler de la Gamma ( $\Gamma$ ). Vamos a compararlos:

$$f_{\chi^2_\nu}(2x) \propto x^{\nu/2 - 1}e^{-x};\quad f_{\Gamma(\nu)}(x) \propto x^{\nu-1}e^{-x}.$$

Esto demuestra que dos veces al $\chi^2_\nu$ tiene una distribución Gamma con parámetro $\nu/2$ . El factor de la mitad es lo suficientemente molesto, pero restando $1$ haría que la relación fuera mucho peor. Esto ya proporciona una respuesta convincente a la pregunta: si queremos que el parámetro de un $\chi^2$ distribución para contar el número de variables normales al cuadrado que la producen (hasta un factor de $1/2$ ), entonces el exponente en su función de densidad debe ser uno menos que la mitad de esa cuenta.

¿Por qué el factor de $1/2$ menos problemática que una diferencia de $1$ ? La razón es que el factor seguirá siendo consistente cuando sumemos cosas. Si la suma de cuadrados de $n$ normales independientes es proporcional a una distribución Gamma con parámetro $n$ (por algún factor), entonces la suma de cuadrados de $m$ normales independientes es proporcional a una distribución Gamma con parámetro $m$ (por el mismo factor), por lo que la suma de los cuadrados de todos los $n+m$ es proporcional a una distribución Gamma con parámetro $m+n$ (sigue siendo el mismo factor). El hecho de que la adición de los parámetros se asemeje tanto a la adición de los recuentos es muy útil.

Sin embargo, si elimináramos ese molesto " $-1$ " de las fórmulas matemáticas, estas bonitas relaciones se complicarían. Por ejemplo, si cambiamos la parametrización de las distribuciones Gamma para referirnos a la potencia real de $x$ en la fórmula, de modo que a $\chi^2_1$ distribución estaría relacionada con una "Gamma $(0)$ "(ya que la potencia de $x$ en su PDF es $1-1=0$ ), entonces la suma de tres $\chi^2_1$ distribuciones tendría que llamarse "Gamma $(2)$ ". En resumen, la estrecha relación aditiva entre los grados de libertad y el parámetro en las distribuciones Gamma se perdería al eliminar el $-1$ de la fórmula y absorberla en el parámetro.

Del mismo modo, la función de probabilidad de un $F$ está estrechamente relacionada con las distribuciones Beta. En efecto, cuando $Y$ tiene un $F$ la distribución de la relación, la distribución de $Z=\nu_1 Y/(\nu_1 Y + \nu_2)$ tiene un Beta $(\nu_1/2, \nu_2/2)$ distribución. Su función de densidad es proporcional a

$$f_Z(z) \propto z^{\nu_1/2 - 1}(1-z)^{\nu_2/2-1}.$$

Además, cerrando el círculo de estas ideas, la plaza de un estudiante $t$ distribución con $\nu$ d.f. tiene un $F$ distribución de la relación con los parámetros $(1,\nu)$ . Una vez más, es evidente que mantener la parametrización convencional mantiene una clara relación con el cuenta que contribuyen a los grados de libertad.

Desde el punto de vista estadístico, pues, lo más natural y sencillo sería utilizar una variación de las parametrizaciones matemáticas convencionales de $\Gamma$ y las distribuciones Beta: deberíamos preferir llamar a un $\Gamma(\alpha)$ distribución a " $\Gamma(2\alpha)$ distribución" y la Beta $(\alpha, \beta)$ distribución debería llamarse "Beta $(2\alpha, 2\beta)$ distribución". De hecho, ya lo hemos hecho: precisamente por eso seguimos utilizando los nombres "Chi-cuadrado" y " $F$ Distribución "Ratio" en lugar de "Gamma" y "Beta". No importa, en ningún caso querríamos eliminar el " $-1$ " que aparecen en las fórmulas matemáticas de sus densidades. Si lo hiciéramos, perderíamos la conexión directa entre los parámetros de las densidades y los recuento de datos con los que se asocian: siempre estaríamos fuera de uno.

Answer 2

La notación te engaña. Hay un "oculto $-1$ " en su fórmula $(1)$ porque en $(1)$ , $\alpha$ y $\beta$ debe ser mayor que $-1$ (en el segundo enlace que has proporcionado en tu pregunta se dice esto explícitamente). El $\alpha$ y $\beta$ en las dos fórmulas no son los mismos parámetros; tienen rangos diferentes: en $(1)$ , $\alpha,\beta>-1$ y en $(2)$ , $\alpha,\beta>0$ . Estos rangos para $\alpha$ y $\beta$ son necesarias para garantizar que la integral de la densidad no diverja. Para ver esto, considere en $(1)$ el caso $\alpha=-1$ (o menos) y $\beta=0$ , a continuación, intente integrar el (núcleo de la) densidad entre $0$ y $1$ . Equivalentemente, intente lo mismo en $(2)$ para $\alpha=0$ (o menos) y $\beta=1$ .

Answer 3

Para mí, la existencia de -1 en el exponente está relacionada con el desarrollo de la función Gamma. La motivación de la función Gamma es encontrar una curva suave para conectar los puntos de un factorial $x!$ . Como no es posible calcular $x!$ directamente si $x$ no es entero, la idea era encontrar una función para cualquier $x \geq 0$ que satisface la relación de recurrencia definida por el factorial, a saber

$f(1)=1\\ f(x+1)=x \cdot f(x). $

La solución fue mediante la convergencia de una integral. Para la función definida como

$f(x+1) = \displaystyle\int_{0}^{\infty} t^{x}e^{-x} dt, $

La integración por partes proporciona lo siguiente:

$ \begin{align} f(x+1) & = \displaystyle\int_{0}^{\infty} t^{x}e^{-x} dt \\ & = \Big[-t^{x}e^{-x} \Big]^{\infty}_{0} + \displaystyle\int_{0}^{\infty} x\cdot t^{x-1}e^{-x} dt \\ &= \lim_{x \to \infty} (-t^{x}e^{-x}) - 0 \cdot e^{-0} + x\cdot \displaystyle\int_{0}^{\infty} t^{x-1}e^{-x} dt \\ &= 0 - 0 + x\cdot \displaystyle\int_{0}^{\infty} t^{x-1}e^{-x} dt \\ &= x \cdot f(x) . \end{align} $

Así, la función anterior satisface esta propiedad, y el -1 en el exponente se deriva del procedimiento de integración por partes. Véase el artículo de Wikipedia https://en.wikipedia.org/wiki/Gamma_function .

Edit: Pido disculpas si mi post no es del todo claro; sólo intento señalar que, en mi idea, la existencia de -1 en la distribución beta proviene de la generalización del factorial mediante la función Gamma. Hay dos condiciones: $f(1)=1$ y $f(x+1)=x \cdot f(x)$ . Tenemos $\Gamma(x) = (x-1)!$ por lo que satisface $\Gamma(x+1) = x \cdot \Gamma(x) = x \cdot (x-1)! = x!$ . Además, tenemos $\Gamma(1) = (1-1)! = 0! = 1$ . En cuanto a la distribución beta con parámetros $\alpha, \beta$ La generalización del coeficiente binomial es $\dfrac{\Gamma(\alpha + \beta)}{\Gamma(\alpha) \cdot \Gamma(\beta)} = \dfrac{(\alpha + \beta - 1)!}{(\alpha-1)! \cdot (\beta-1)!}$ . Ahí tenemos el -1 en el denominador, para ambos parámetros.