¿Cuál es el Método de los Momentos y cómo es diferente de la MLE?

Question

En general, parece que el método de los momentos es justo que coincidan con el observado la media de la muestra, o la varianza para el teórico momentos para obtener estimaciones de los parámetros. Este es a menudo el mismo que el MLE para exponencial de las familias, deduzco.

Sin embargo, es difícil encontrar una definición clara del método de los momentos y de una discusión clara de por qué el MLE parece ser en general, favorecido, aunque puede ser complicado para encontrar el modo de la función de probabilidad.

Esta pregunta Es MLE más eficiente que el Momento de método? tiene una oferta del Prof. Donald Rubin (en la universidad de Harvard), diciendo que todo el mundo ha conocido desde los años 40 que MLE beats Mamá, pero me interesaría saber la historia o el razonamiento para esto.

Answer 1

En la Mamá, el estimador es elegido de tal manera que algunos que la función de esperanza condicional igual a cero. E. g. $E[g(y,x,\theta)] = 0$. A menudo, la expectativa es condicional en $x$. Normalmente, esto se convierte en un problema de minimización de una forma cuadrática en esto de las expectativas, con una matriz de pesos.

En la MLE, el estimador maximiza el registro de probabilidad de la función.

En una amplia generalización, MLE hace más estricta de la hipótesis (la totalidad de la densidad) y por lo tanto es típicamente menos fuerte pero más eficiente si los supuestos se cumplen (que se alcanza el Kramer Rao el límite inferior de la varianza asintótica).

En algunos casos, los dos coinciden, OLS siendo un ejemplo notable donde la solución analítica es idéntico y, por tanto, el estimador se comporta de la misma manera.

En cierto sentido, se puede pensar en un MLE (en casi todos los casos) como una Mamá estimador debido a que el estimador establece el valor esperado de la pendiente de la de registro de la función de probabilidad igual a cero. En ese sentido, hay casos donde la densidad es incorrecta, pero la MLE todavía es coherente debido a que las condiciones de primer orden son satisfechos. A continuación, el MLE se conoce como "cuasi-ML".