Recuerda que la tangente es negativa en los cuadrantes $2$ y $4$ por lo que no debería añadir rutinariamente $360$ grados al valor negativo de tu calculadora (eso es básicamente suponer el cuarto cuadrante (ángulo entre $270$ y $360$ grados) por defecto. En su lugar, averigüe en qué cuadrante se encuentra el vector. Tenga en cuenta que $(-5,6)$ significa negativo $x$ coordinada y positiva $y$ coordenada, y eso significa segundo cuadrante (ángulo entre $90$ y $180$ grados). Así que la respuesta debería ser $180$ grados menos el ángulo de referencia positivo (lo que se obtiene al hacer $\arctan \frac 65$ [quitando el signo negativo] en la calculadora), lo que equivale a sumar $180$ grados al valor negativo de la calculadora (que se obtiene al evaluar $\arctan (-\frac 65) $ en la mayoría de las calculadoras).
El enfoque más adecuado para este tipo de problemas (encontrar la dirección de un vector o el argumento de un número complejo) es ignorar siempre el signo del cociente al evaluar la arctangente. Eso te dará el ángulo de referencia, que siempre está en el primer cuadrante. Luego se decide en qué cuadrante se encuentra realmente el ángulo deseado en función de los signos de $x$ y $y$ . Si es primero, no haga nada más, acepte el valor positivo de la calculadora. Si es el segundo, tome $180$ grados menos el valor positivo de tu calculadora. Si es tercero, tome $180$ grados más el valor positivo de tu calculadora. Si es el cuarto, tome $360$ grados menos el valor positivo de tu calculadora.
Si sus rangos para los ángulos se definen de forma diferente (por ejemplo, con una convención comúnmente utilizada para los argumentos de números complejos, los rangos suelen ir de $-180 \ (-\pi) $ a $+180 \ (+\pi)$ en lugar de $0$ a $360 \ (2\pi)$ como en tu caso). En ese caso, tendrás que ajustar tu algoritmo en consecuencia al elaborar el argumento, pero el principio es el mismo.