Alternativas a la regresión por pasos para los modelos lineales mixtos generalizados

Question

¿Existen alternativas fáciles de usar a la selección de variables por pasos para los GLMM? He visto implementaciones de, por ejemplo, LASSO para la regresión lineal, pero hasta ahora no he visto nada para los modelos mixtos. Los modelos mixtos parecen no ser triviales en general, por lo que me pregunto si se ha adaptado alguno de los nuevos métodos extravagantes a partir de ellos (y posiblemente implementados en R). Usar cualquier procedimiento de selección que te guste y luego validar los resultados parece una manera sensata de ir mientras tanto.

Para dar un poco de contexto: en mi proyecto actual, estoy considerando aproximadamente 700 variables y 5000 observaciones binarias. La selección por pasos tarda aproximadamente 1 día; muchas variables tienen un 10% de omisión.

Edición: ¡Gracias por las respuestas tan interesantes hasta ahora! Dos cuestiones que me preocupan son: si estos nuevos métodos tienen tiempos de ejecución más largos que la selección por pasos y si pueden tratar los datos que faltan (si cada variable tiene una falta diferente, es muy fácil perder todas las observaciones en un análisis de caso completo, algo que la selección por pasos puede tratar utilizando sólo pequeños subconjuntos de las variables disponibles al mismo tiempo).

Answer 1

¿Qué le parece el método de agregación de conjuntos, también conocido como fanfarronería? Con este método, básicamente se crea un gran número de réplicas del conjunto de datos original utilizando un muestreo aleatorio simple con reemplazo (digamos 10.000 conjuntos de datos bootstrapped) de su conjunto de datos original. A continuación, se implementa una rutina de selección de variables (tal vez los mejores subconjuntos o los métodos tradicionales de selección por pasos) para seleccionar los coeficientes o predictores que son significativos para cada una de las muestras de boostrapped. Realice las rutinas para cada muestra con bootstrap y luego observe los índices de frecuencia con que se seleccionan los predictores. Los predictores que aparecen, por ejemplo, en el 90% o más de la muestra se utilizan en el modelo mixto final. Hay muchos otros métodos que podrían utilizarse también, pero destaco éste porque es sencillo de explicar y suele ser muy fácil de aplicar. Para más información, véase Breiman, Leo (1996). "Bagging predictors". Machine Learning 24 (2): 123-140. doi:10.1007/BF00058655.