Razones para preferir un sesgo bajo con una varianza alta sobre la alternativa (y viceversa)

Question

Estoy tratando de entender el equilibrio sesgo-varianza en la práctica. He leído varias preguntas y respuestas relacionadas, pero aún tengo algunas preguntas:

1. Supongamos que estamos estimando un modelo de ecuaciones estructurales (SEM) y podemos elegir entre dos estimadores: uno con alto sesgo pero baja variabilidad, y otro con bajo sesgo pero alta variabilidad. ¿En qué situaciones preferiría un investigador el primero en lugar del segundo?

2. Relacionado con la primera pregunta: con los valores más bajos de ECM representando el equilibrio óptimo entre varianza y sesgo, ¿tendría sentido alguna vez elegir un estimador con valores de ECM más altos sobre uno con valores de ECM más bajos? Si es así, ¿cuándo?

3. Si elegimos la versión menos sesgada, ¿serían útiles los metaanálisis para atenuar el problema de alta varianza?

Answer 1

A) Ni el sesgo ni la imprecisión son deseables, y no recuerdo que nadie haya argumentado que uno sea (en principio) peor que el otro. El problema es que ambos son razones por las cuales la estadística de su muestra difiere del parámetro poblacional que estima. El sesgo y la imprecisión podrían ser relativamente peores en una condición particular o al usar un estimador particular, que es de lo que se trata el compromiso (ver punto siguiente).

b) No, nunca preferirías un estimador con un (R)MSE más alto. El error cuadrático medio (Raíz) suma el sesgo (al cuadrado) y la varianza muestral, por lo que es un resumen compuesto de "cuán incorrecta puedes esperar que sea tu estimación, en promedio," teniendo en cuenta tanto el sesgo como la imprecisión. Por lo tanto, el (R)MSE proporciona una manera razonable de comparar un estimador que es sesgado pero preciso con otro que es impreciso pero imparcial.

c) Sí, si el metaanálisis agrega una cantidad suficiente de datos, entonces podría superar la falta de precisión de la estimación imparcial. Pero encontrar resultados imparciales es un gran problema práctico para el metaanálisis (por ejemplo, sesgo de publicación).