¿Por qué estudiar la optimización convexa para el aprendizaje automático teórico?

Question

Estoy trabajando en el aprendizaje automático teórico, en el aprendizaje por transferencia, para ser específico, para mi doctorado.

• Por curiosidad, ¿por qué debería tomar un curso sobre optimización convexa?
• ¿Qué puntos de la optimización convexa puedo usar en mi investigación sobre el aprendizaje automático teórico?

Answer 1

Como dijo hxd1011, los problemas convexos son más fáciles de resolver, tanto teóricamente como (típicamente) en la práctica. Por lo tanto, incluso para problemas no convexos, muchos algoritmos de optimización comienzan con el "paso 1. reducir el problema a uno convexo" (posiblemente dentro de un bucle de tiempo).

Algo similar sucede con el rootfinding no lineal. Por lo general, la solución (por ejemplo, con el método de Newton) va "paso 1. Reducir a un problema lineal, porque sabemos cómo resolverlos".