Vamos a jugar y a ver qué pasa.
Escribo $a$$\alpha$,
$c$ $\cos \alpha$,
y $s$ $\sin \alpha$
porque soy perezoso.
Tenemos
$x = t c + s$
y
$y = t s + c$.
$x^2+y^2 = t^2 c^2+2tcs + s^2 + t^2 s^2 + 2tcs + c^2
= t^2+1+4tsc$.
$xy = t^2 + cs ct^2+t s^2 + sc
= cs(t^2+1)+t$.
Podemos resolver para $cs$ en cada uno de estos.
$cs = (x^2+y^2-t^2-1)/(4t)$
y
$cs = (xy-t)/(t^2+1)$
así
$(x^2+y^2-t^2-1)/(4t) = (xy-t)/(t^2+1)$.
Ahora podemos resolver para $t$.
$4t(xy-t) = (t^2+1)(x^2+y^2-t^2-1)$
o
$4txy-4t^2 = (t^2+1)(x^2+y^2) - (t^2+1)^2
= t^2(x^2+y^2)+(x^2+y^2)-t^4-2t^2-1
$
así
$t^4-t^2(x^2+y^2+2)+4txy+1=0$.
Este es el cuarto grado, por desgracia,
y no veo una evidente raíz.
También podemos hacer esto:
$xs-yc = (tcs + s^2)-(tsc+c^2)
= s^2-c^2
= 2s^2 - 1
$,
así
$yc = xs-2s^2+1$.
El cuadrado de este,
y el uso de $c^2 = 1-s^2$,
tenemos otro cuarto grado de $s$.
En otras palabras,
podemos obtener las ecuaciones de
$t$
y $\sin \alpha$,
pero son cuárticas.