Tengo curiosidad acerca de por qué tratamos montaje MLG como si fueran un problema de optimización especial. ¿Son? Me parece que son sólo de máxima verosimilitud, y anotamos la probabilidad y entonces... lo máximo! Así que ¿por qué usamos Fisher puntuación en lugar de cualquiera de la miríada de sistemas de optimización que se ha desarrollado en la literatura matemática aplicada?
Respuestas
¿Demasiados anuncios?
Fisher scoring es sólo una versión del método de Newton que pasa a ser identificado con GLMs, no hay nada particularmente especial, aparte del hecho de que la matriz de información de Fisher pasa a ser bastante fácil de encontrar para variables aleatorias en la exponencial de la familia. También se vincula a un montón de otras matemáticas-stat material que tiende a subir casi al mismo tiempo, y le da un buen intuición geométrica qué es exactamente lo que Fisher información de los medios.
No hay absolutamente ninguna razón por la que puedo pensar en no usar algún otro optimizador si lo prefiere, aparte de eso, usted podría tener que escribir el código a mano en lugar de usar un pre-existentes paquete. Sospecho que cualquier fuerte énfasis en Fisher scoring es una combinación de (en orden decreciente de peso), la pedagogía, la facilidad de derivación, histórico sesgo, y "no inventado aquí" síndrome de down.
guest
Puntos
1851
Es histórico, y pragmático; Nelder y Wedderburn de ingeniería inversa GLMs, como el conjunto de modelos donde se puede encontrar el MLE de Fisher de puntuación (es decir, de forma Iterativa Reponderadas de mínimos Cuadrados). El algoritmo de vino antes de que los modelos, al menos en el caso general.
También vale la pena recordar que IWLS era lo que había disponible en la decada de los años 70, por lo GLMs eran una clase importante de los modelos de conocer. El hecho de que usted puede maximizar GLM de las probabilidades de forma fiable el uso de Newton-tipo de algoritmos (que normalmente tienen un único Emv) también significó que los programas como GLIM podría ser utilizado por aquellos que no tienen habilidades en la optimización numérica.
