Si $p^T \nabla f(x) < 0 $ entonces existe un $\alpha \ge 0 $ tal que $f(x + \alpha p) < f(x)$ ?

Question

Supongamos que $f: \mathbb R^n \to \mathbb R$ es diferenciable. Me gustaría verificar la siguiente afirmación:

Dado un vector $p \in \mathbb R^n$ tal que $p^T \nabla f(x) < 0 $ existe un $\alpha \ge 0 $ tal que

$$f(x + \alpha p) < f(x)$$

He visto motivaciones que apuntan al teorema de Taylor, pero todo lo que puedo entender es lo siguiente:

Del teorema de Taylor [para funciones multivariantes de valor real]:

$$f(x + \epsilon p) = f(x) + \epsilon p^T \nabla f(x) + O(\epsilon ^2)$$

Donde por supuesto, para $\epsilon > 0$

$$f(x) + \epsilon p^T \nabla f(x) < f(x) $$

Pero ¿cómo nos aseguramos de que el término de error $O(\epsilon ^2) $ no compensa la diferencia entre $f(x + \epsilon p)$ y $f(x) + \epsilon p^T \nabla f(x)$ ? O dicho de otro modo, ¿cómo nos aseguramos de que

$$ \epsilon p^T \nabla f(x) + O(\epsilon ^2) < 0$$ $$?$$

Answer 1

Este es un intento de solución tras el comentario de Thorgott.

Escriba a $h(e) $ para la función de error en la expansión de Taylor que es $O(\epsilon ^2) $ y elegimos M y delta tales que para $0<\epsilon < \delta$ tenemos que

$$h(\epsilon) \le M \epsilon ^2$$

Entonces considera

$$\epsilon p^T \nabla f(x) + h(\epsilon) \le \epsilon p^T \nabla f(x) + M \epsilon ^2 = \epsilon \left ( p^T \nabla f(x) + M \epsilon \right )$$

Dado que esta expresión es válida para cualquier $\epsilon < \delta $ podemos disminuir $\epsilon$ tal que $M \epsilon < | p^T \nabla f(x) | $ . Entonces, la expresión dentro del paréntesis es negativa.