El conjunto de ecuaciones tiene tres soluciones reales:
$$(x,y) =
\left(\frac{1}{y_2},y_1\right),
\left(\frac{1}{y_3},y_2\right),
\left(\frac{1}{y_1},y_3\right)
$$
donde $y_1 = 2\cos\frac{\pi}{9}$, $y_2 = 2\cos\frac{7\pi}{9}$ e $y_3 = 2\cos\frac{13\pi}{9}$.
Para derivar de ellos, vamos a explotar una simetría oculta debajo del conjunto de ecuaciones.
Introducir las variables de $(X,Y,Z)$ y deje $(x,y) = \left(\frac{X}{Z},\frac{Y}{Z}\right)$,
tenemos
$$\begin{align}
x^3 + y^3 + 1 + 6xy = 0
& \iff X^3 + Y^3 + Z^3 + 6XYZ = 0 \tag{*1a}\\
xy^2 + y + z^2 = 0
&\iff XY^2 + YZ^2 + X^2Z = 0\tag{*1b}
\end{align}
$$
Deje $u = \frac{Y}{Z}, v = \frac{Z}{X}, w = \frac{X}{Y}$, tenemos $uvw = 1$.
Dividir RHS(*1a) por $XYZ$, obtenemos
$$\frac{w}{v} + \frac{u}{w} + \frac{v}{u} + 6 = \frac{X^2}{YZ} + \frac{Y^2}{XZ} + \frac{Z^2}{XY} + 6 = 0$$
Multiplicar ambos lados por $uvw = 1$, obtenemos
$$w^2 u + u^2v + v^2w + 6 = 0 \tag{*2}$$
Del mismo modo, dividir RHS(*1b) por $XYZ$ nos dan
$$u + v + w = \frac{Y}{Z} + \frac{Z}{X} + \frac{X}{Y} = 0$$
Deje $\omega = e^{\frac{2\pi}{3}i}$ ser la raíz cúbica de la unidad. Desde $u+v+w = 0$, podemos encontrar
dos números complejos $a, b$ tales que
$$\begin{cases}
u &= a + b\\
v &= a\omega + b\omega^2\\
w &= a\omega^2 + b\omega
\end{casos}\etiqueta{*3}$$
En términos de $a,b$, la condición de $uvw = 1$ reduce a
$$a^3 + b^3 = (a+b)(a\omega + b\omega^2)(a\omega^2+b\omega) = uvw = 1$$
Sustituto de la parametrización (*3) (*2) y simplificar, se obtiene
$$3a^3\omega + 3b^3\omega^2 + 6 = 0 \iff a^3\omega + b^3\omega^2 = - 2$$
La resolución de este último dos ecuaciones nos dan
$$(a^3, b^3 ) = ( -\omega^2, -\omega ) = \left( e^{\frac{\pi}{3}i}, e^{-\frac{\pi}{3}i}\right)$$
Estamos buscando soluciones reales a $(x,y)$, tenemos $u = a + b$ e $v = a\omega + b\bar{\omega}$ a ser real. Esto obliga a $b = \bar{a}$ y hay tres posibilidades:
$$a = \bar{b} = e^{\frac{\pi}{9}i}, e^{\frac{7\pi}{9}i}, e^{\frac{13\pi}{9}i}
\implica (u,v,w) = (y_1,y_2,y_3), (y_2,y_3,y_1), (y_3,y_1,y_2)$$
Aviso de $(x,y) = (v^{-1},u)$, las tres soluciones reales de que el problema siga.