Interesante pregunta!
El problema es que algunas de las trayectorias tienden al infinito.
No creo que jamás he visto un ejemplo claro, pero (con un poco de esfuerzo!) Me las arreglé para llegar hasta con uno mismo.
Tomar
$$
V(x,y) = \frac{x^2}{1+x^2} + y^2
,
$$
lo que es claramente positiva definida, pero no tiende a infinito como $\sqrt{x^2+y^2}\to \infty$ ( $V(x,0)\to 1$ $x \to \pm\infty$).
El conjunto de nivel de $\{ V(x,y)=1 \}$ está dado por $y=\pm 1/\sqrt{1+x^2}$, un par de curvas que se extienden hasta el infinito, acercándose a la $x$ eje. Entre estas dos curvas, tiene el nivel de los conjuntos de $\{ V(x,y)=c \}$ $c \in (0,1)$ cuales son las curvas cerradas que rodean el origen, y $\{ V(x,y)=0 \}$ que es el origen.
Ahora, considere el sistema de
$$
\dot x = x \, \frac{3x^2y^2-1}{x^2 y^2+1}
,\qquad
\dot y = -y
.
$$
La idea aquí es que en la curva de $xy=1$ (que para grandes positivo $x$ se encuentra justo por encima de la curva de nivel $y=1/\sqrt{1+x^2}$) se convierte en el sistema $\dot x=x$, $\dot y=-y$, que tiene una solución que se queda en la curva. Es decir,
$$
x(t)=e^t
,\qquad
y(t)=e^{-t}
$$
es una solución particular de nuestro sistema, y no tienden al equilibrio $(x,y)=(0,0)$, por lo que el sistema no es globalmente asintóticamente estable.
Y por otro lado, el sistema se convierte en $\dot x \approx -x$, $\dot y=-y$ cuando estamos cerca del origen, por lo que es localmente asintóticamente estable.
Queda por demostrar que $\dot V$ es realmente negativa definitiva:
$$
\begin{split}
\dot V
&
= \frac{\partial V}{\partial x} \, \dot x + \frac{\partial V}{\partial y} \, \dot y
\\ &
= \frac{2x}{(1+x^2)^2} \, x \, \frac{3x^2 y^2-1}{x^2 y^2+1} + 2y \, (-y)
\\ &
= \frac{-2}{(1+x^2)^2 (1+x^2 y^2)}
\biggl(
x^2 (1-3x^2 y^2) + y^2 (1+x^2)^2 (1+x^2 y^2)
\biggr)
\\ &
= \frac{-2}{(1+x^2)^2 (1+x^2 y^2)}
\biggl(
x^2
- 2 x^4 y^2
+ x^6 y^4
+ y^2
+ 2 x^2 y^2
+ x^2 y^4
+ 2 x^4 y^4
\biggr)\\ &
= \frac{-2}{(1+x^2)^2 (1+x^2 y^2)}
\biggl(
x^2 (1 - x^2 y^2)^2
+ y^2 (1+2x^2)(1+x^2 y^2)
\biggr)
,
\end{split}
$$
que es claramente negativo de distancia desde el origen. Hecho!
(Comentario: La reescritura de $\dot V$ en el último paso se debe a un comentario útil por @SampleTime, lo que simplifica el argumento de mucho. Ver el historial de edición, para mi propia versión original, que era mucho más feo!)