Elegir las mejores prácticas de modelización

Question

Estoy modelando algunos datos de comportamiento en R para determinar los mejores parámetros para explicar el éxito de forrajeo de los animales marinos. Tengo tanto parámetros de escala fina relacionados con el individuo directo (por ejemplo, profundidad de inmersión, duración del viaje) como parámetros de escala amplia (por ejemplo, temperatura, viento, clorofila a).

Para evitar el sobreajuste, actualmente tengo 2 modelos, uno que modela variables predictoras de escala fina y otro que modela variables predictoras de escala amplia, y estoy utilizando el promedio de modelos para determinar el mejor conjunto de predictores para cada modelo.

Mi pregunta es: ¿Puedo utilizar los modelos de escala amplia y fina como prueba inicial de los mejores parámetros a incluir, y luego juntar todos los mejores parámetros en un único modelo? He probado esto y proporciona un buen modelo con una mayor capacidad predictiva, pero ¿se consideraría una mala práctica? No he visto que se haga esto en otros trabajos (y desde luego nunca lo he hecho yo).

Gracias.

Answer 1

Este método de dos modelos separados para luchar contra el sobreajuste es desconocido para mí, y tampoco veo realmente cómo debería tener éxito. Pero ya que tienes buenos resultados, deberías intentarlo.

No obstante, yo habría empezado con un modelo que contuviera todos los parámetros (finos y a gran escala). Luego, hay muchos métodos tanto para seleccionar los parámetros adecuados ( bosque aleatorio variable importancia ARD (por ejemplo máquinas vectoriales de relevancia ), espiga y losa y muchos más, por ejemplo aquí y aquí ), y para luchar contra el sobreajuste (p. ej. regularización , Métodos bayesianos o criterios de información adecuados ) que pueden aplicarse a este modelo.