Me resulta difícil diferenciar los métodos de estimación de los de optimización en el contexto del aprendizaje automático. Ambos se utilizan para calcular los parámetros de nuestro modelo, así que ¿en qué se diferencian? ¿Es alguno de ellos el subconjunto del otro?
Respuesta
¿Demasiados anuncios?
Optimización es un término general para encontrar el máximo, o mínimo, de alguna función. Estimación es un término estadístico para encontrar estimación de parámetro desconocido, dados unos datos. Para ello se pueden utilizar métodos de optimización, por ejemplo maximizar la función de verosimilitud o minimizar una función de pérdida. Así pues, la optimización es más amplia, ya que se puede utilizar sin datos, simplemente hallando el máximo de alguna función abstracta, mientras que la estimación tiene un claro alcance estadístico. La optimización se puede utilizar para la estimación, pero también se pueden utilizar métodos no basados en la optimización para la estimación.
