$$A^TA=-I$$
equivale a $A^{-1}=-A^T$ y por lo tanto implica $AA^T=-I$ .
Si $A=\begin{bmatrix} a&b \\ c&d \end{bmatrix}$ Entonces $$A^TA=-I \Leftrightarrow AA^T=-I \mbox{ and }A^TA=-I \\ \begin{bmatrix} a&b \\ c&d \end{bmatrix}\begin{bmatrix} a&c\\ b&d \end{bmatrix}= \begin{bmatrix} -1&0 \\ 0&-1 \end{bmatrix} \mbox{ and } \begin{bmatrix} a&c \\ b&d \end{bmatrix}\begin{bmatrix} a&b\\ c&d \end{bmatrix}= \begin{bmatrix} -1&0 \\ 0&-1 \end{bmatrix}\Leftrightarrow \\ a^2+b^2=-1 \\ c^2+d^2=-1 \\ ac+bd=0 \\ a^2+c^2=-1 \\ b^2+d^2=-1 \\ ab+cd=0 $$
Ahora $$a^2+b^2=-1=a^2+c^2 \Rightarrow b^2=c^2 \Rightarrow b= \pm c\\ a^2+b^2=-1=b^2+d^2 \Rightarrow a^2=d^2 \Rightarrow a= \pm d \\ $$
Utilizando $b =\pm c$ y $a=\pm d$ en $$ac+bd=0 \\ ab+cd=0$$
se consigue que o bien $a=b=c=d=0$ o los signos en $b =\pm c$ y $a=\pm d$ son opuestos.
Por lo tanto, si se combina todo lo que tenemos, el sistema anterior se reduce a $$a^2+b^2=-1$$ y, o bien $c=-b, d=a$ o $c=b, d=-a$ .