Hay muchas maneras de acercarse a este tipo de cosas, que puede ser estudiado en un sistema Dinámico en curso.
(1) Con algo de fuerza bruta, se puede probar por la solución de cada ecuación por separado :
$$x(t) = c_1e^{\int [y(t)-1]dt}$$
$$y(t) = \frac{-\int e^{2t}x^2(t)dt+c_2}{e^{2t}}$$
y, a continuación, las conclusiones de la marca.
(2) Tenemos el sistema :
$$\begin{equation}
\begin{cases}
x'=-x+xy
\\y'=-2y-x^2
\end{casos}
\end{equation}$$
Se observa que el $O(0,0)$ es un punto fijo para el sistema.
El Jacobiano de este sistema, es :
$$J(x,y) = \begin{bmatrix} -1+y & x \\ -2x & -2 \end{bmatrix}$$
y así, el Jacobiano en relación con el punto fijo $O(0,0)$ es :
$$J(0,0)=\begin{bmatrix} -1 & 0 \\ 0 & -2 \end{bmatrix}$$
El cálculo de los autovalores de la $J(0,0)$ :
$$\det(J(0,0)-λI)=0\Rightarrow(-1-λ)(-2-λ)=0 \Leftrightarrow \begin{cases} λ_1=-1 \\ λ_2 = -2 \end{cases}$$
Por lo tanto, es : $λ_2 < λ_1 < 0$$λ_1\cdot λ_2 > 0$, lo que significa que $O(0,0)$ es asintóticamente estable nodo.
A partir de la imagen del plano fase que corresponde a un asintóticamente estable nodo (consultar aquí), se puede concluir que las soluciones "colapso" a $O(0,0)$, así : $\lim_{t\rightarrow +\infty } {(x(t),y(t))}=0$
(3) Como se menciona en uno de los comentarios, la primera expresión que usted ha escrito (la desigualdad), muestra que el funcional $V(x,y) = x^2 + y^2$ es un fuerte de Lyapunov uno, así que para $t \to + \infty$ usted puede hacer un conlcusion de Lyapunov del teorema. A pesar de que, como se mencionó de nuevo, que necesita un argumento extra para $t<0$.
(4) a Través de la Linealización con coordenadas polares, usted puede transformar su sistema :
$$x=r\cosθ$$
$$y=r\sinθ$$
$$x^2 + y^2 = r^2$$
La diferenciación de la última ecuación, se obtiene :
$$rr' = xx' + yy'$$
Para encontrar el ángulo de $θ$, podemos tomar :
$$\dfrac{r \sin \theta}{r \cos \theta} = \tan \theta = \dfrac{y}{x}$$
Usando el cociente de la regla, obtenemos :
$$\theta' = \dfrac{x y' - y x'}{r^2}$$
Hacer sustituciones por lo tanto, puede generar resultados para un nuevo sistema :
$$\begin{cases} r' = \dots \\ θ' = \dots \end{cases}$$
y hacer conclusiones.
Con respecto a coordenadas polares, se puede comprobar una respuesta mía, aquí.
