Estoy bastante seguro de que se trata de un problema del libro de Hirsch, Smale y Devaney en Sistemas dinámicos. Así que vamos a tomarlo pieza por pieza.
a) Cuando $\epsilon = 0$ tenemos que
$$x ' = 2y(z+1)$$ $$y' = -x(z+1)$$ $$z' = -z^3$$
Ahora queremos demostrar que el origen no es asintóticamente estable. Esto significa que existe alguna solución que no tiende al origen como $t \to \infty$ pero se mantiene cerca del origen (siendo un poco impreciso aquí, pero se puede precisar mirando la definición de estable).
Intentemos construir una solución de este tipo. Para simplificar, vamos a hacer la audaz suposición de que $z = 0$ en cuyo caso tenemos ahora las ecuaciones
$$x' = 2y$$ $$y' = -x$$ $$z' = 0$$
Esto es básicamente un $2 \times 2$ sistema con matriz
$$\begin{bmatrix} 0 & 2 \\ -1 & 0 \\ \end{bmatrix}$$
que tiene valores propios $\pm i \sqrt{2}$ . Así pues, tenemos soluciones para este sistema de la forma
$$\begin{bmatrix} x \\ y \end{bmatrix} = C_1 \begin{bmatrix} \cos{t\sqrt{2}} \\ -\sin{t\sqrt{2}} \end{bmatrix} + C_2 \begin{bmatrix} \sin{t\sqrt{2}} \\ \cos{t\sqrt{2}} \end{bmatrix} $$
Ponerlo todo junto,
$$\begin{bmatrix} x \\ y \\ z \end{bmatrix} = C_1 \begin{bmatrix} \cos{t\sqrt{2}} \\ -\sin{t\sqrt{2}} \\ 0\end{bmatrix} + C_2 \begin{bmatrix} \sin{t\sqrt{2}} \\ \cos{t\sqrt{2}} \\ 0\end{bmatrix} $$
que son elipses alrededor del origen. Son estables pero no asintóticamente estables.
b) En este caso, podemos utilizar el principio de invariancia de LaSalle. En la página 195 (sección 9.2 de Hirsch, Smale y Devaney) vimos que
$$L = x^2+2y^2+z^2$$
es una función de Liapunov. Además, vimos que es una función de Liapunov estricta ya que
$$\frac{dL}{dt} = \epsilon(x^2+2y^2)(z+1)-z^4 < 0$$
para $\epsilon < 0$ y $z > -1$ .
El Principio de Invariancia de LaSalle dado en el libro de texto dice:
Dejemos que $X^*$ sea un punto de equilibrio para $X'= F(X)$ y que $L: U \to \mathbb{R}$ sea una función de Liapunov para $X^*$ , donde $U$ es un conjunto abierto que contiene $X^*$ . Sea $P \subseteq U$ sea una vecindad de $X^*$ que es cerrado y acotado. Supongamos que $P$ es positivamente invariante, y que no existe una solución entera en $P\setminus\{X^*\}$ en el que $L$ es constante. Entonces $X^*$ es asintóticamente estable y $P$ está contenida en la cuenca de atracción de $X^*$ .
Esto es lo que haremos. Consideremos el conjunto
$$P_{abc} = \{(x,y,z) \in \mathbb{R}^3 \quad | \quad |x| \le a, |y| \le b, -1+c \le z \le b$$
Observe que
$$\bigcup_\limits{a > 0, b > 0, 0<c<1} P_{abc} = \{(x,y,z) \in \mathbb{R}^3 \quad | z > -1 \}$$
Además, tenemos que cada $P_{abc}$ contiene el origen y es cerrado. Además, como la función Liapunuv es estricta, entonces cada $P_{abc}$ es positivamente invariante, de lo contrario implicaría que la función de Liapunov es creciente (ADVERTENCIA: ESTO ES FALSO. Como se señala en un comentario más abajo, NO es cierto que cada una de estas $P_{abc}$ son positivamente invariantes. Dejo aquí esta solución para que se advierta mi error). Además, tener una función de Liapunov estricta también garantiza que $L$ no es constante a lo largo de una solución. Por lo tanto, por el Principio de Invariancia de LaSalle, debemos tener que cada $P_{abc}$ está en la cuenca del origen y por tanto la unión también está en la cuenca.
0 votos
Es necesario demostrar: cuando $\epsilon$ es negativo, los valores iniciales $(x_0,y_0,z_0)$ donde $z_0>-1$ se acercará al origen como $t \rightarrow \infty$ .
0 votos
@AlexanderJ93 ¿Voy a usar (a)?
0 votos
Lo más probable es que no, la parte (a) trata de $\epsilon=0$ mientras que la parte (b) trata de $\epsilon<0$ . Es posible que quieras mirar el jacobiano para el negativo $\epsilon$ valores, sin embargo.
0 votos
@AlexanderJ93 ¿por qué? ¿para encontrar la estabilidad de los puntos de equilibrio o algo así? No entiendo tu idea.