MLE para el Laplaciano $f (y; α) = 1/2 \exp(−|y − \alpha|)$

Question

Dejemos que $Y_1, ..., Y_n$ ser iid de una distribución de Laplace (también conocida como distribución doble exponencial) con función de densidad $$f (y; ) = 1/2 \exp(|y |), y,\alpha \in \mathbb{R}.$$ Suponiendo que $n$ es incluso determinar un estimador de máxima verosimilitud de . ¿Es el MLE único?

Para resolverlo, ¿tengo que considerar diferentes densidades dependiendo de si los datos son menores o mayores que $\alpha$ ? Digamos que tengo $n_0$ datos donde $y<\alpha$ entonces la densidad es $f (y; ) = 1/2 \exp((y \alpha))$ y para el resto $n-n_0$ observaciones $y>\alpha$ con la densidad de ahorro $f (y; ) = 1/2 \exp((\alpha y))$ . Entonces la probabilidad es $$ (1/2 \exp((y \alpha)))^{n_0}( 1/2 \exp((\alpha y)))^{n-n_0}.$$ Maximizar la loglikelihood $n_0(y-\alpha)+(n-n_0)(\alpha-y)+\text{const}$ para $\alpha$ Me sale $n=2n_0$ que es independiente de $\alpha$ . ¿Significa que no puedo usar el derivado y tengo que probar otra cosa?

Answer 1

Debido al valor absoluto, no se puede tomar una derivada en $x=a$ por lo que la solución es más analítica. Nótese que maximizar la probabilidad es lo mismo que minimizar $\sum_{i=1}^n | x_i - a|$ en relación con $\alpha$ , es decir, qué valor de $\alpha$ le dará $$ \sum_{i=1}^n \operatorname{sign}( x_i - \alpha) =0 . $$ Un valor que exactamente la mitad de la $x_i$ s son mayores que ella (y la otra mitad menores), es decir $$ \hat{\alpha} = \operatorname{median} \{x_1,\ldots, x_n\}. $$ La derivación completa se puede encontrar aquí .

Answer 2

No tienes $ (\frac 1 2 \exp((y − \alpha)))^{n_0}( \frac 1 2 \exp((\alpha − y)))^{n-n_0}.$ Más bien, se obtiene $$ \left(\frac 1 2 \right)^n \exp\left( (-1)\cdot\left(\sum_{i \, \in \, I} (\alpha-y_i) + \sum_{i\,\in\,J} (y_i - \alpha) \right) \right) $$ donde $I$ es el conjunto de índices $i$ para lo cual $y_i>\alpha$ y $J$ es el conjunto de índices $i$ para lo cual $y_i<\alpha.$ El $y$ -Los valores son diferentes para los distintos índices $i$ y eso fue descuidado en la forma que usted escribió.

Es una función decreciente de la suma dentro del $\displaystyle \left( \vphantom{\sum_I} \text{large parentheses} \right),$ por lo que se necesita el valor de $\alpha$ que minimiza eso.

Supongamos que para un valor determinado de $\alpha$ tienes $|I|>|J|.$ Es decir, hay más índices $i$ para lo cual $y_i< \alpha$ que para el que $y_i>\alpha.$ A continuación, una pequeña disminución de $\alpha$ disminuye la suma sobre $I$ en más de la cantidad en la que aumenta la suma sobre $J,$ por lo que disminuye la suma total. Asimismo, si $|I|< |J|,$ aumentando $alpha$ reduce esa suma. Por lo tanto, la suma se minimiza haciendo $|I|=|J|,$ es decir $\alpha$ es menor que el mismo número de observaciones que $\alpha$ es mayor que.

En otras palabras, la MLE es la mediana de la muestra.