Ambos el ángulo $\theta$ y el triángulo sombreado comparten el mismo adyacente e hipotenusa de $-3/5$
Esto utiliza la definición de $\cos$ para todo el rango $\theta \in [0, 2\pi)$ basado en el círculo unitario, donde los lados se consideran como segmentos con signo y, de hecho, $\cos(\theta) = -3/5$.
ya que $\cos = \text{adyacente/hipotenusa}$.
Por otro lado, esto utiliza la definición geométrica de $\cos$ para ángulos agudos, donde los lados del triángulo rectángulo se consideran como magnitudes positivas. En este caso, $\cos(\pi-\theta)=3/5\,$, en efecto.
Citando de la página de wikipedia Trigonometric functions - Right-angled triangle definitions:
En la geometría euclidiana ordinaria, según el postulado del triángulo, los ángulos interiores de cada triángulo suman $180^\circ$ ($\pi$ radianes). Por lo tanto, en un triángulo rectángulo, los dos ángulos no rectos suman $90^\circ$ ($\pi / 2$ radianes), por lo que cada uno de estos ángulos debe estar en el rango de $(0, \pi/2)$ como se expresa en la notación de intervalo. Las siguientes definiciones se aplican a ángulos en este rango de $0 – \pi/2$. Se pueden extender al conjunto completo de argumentos reales usando el círculo unitario, o $\;\dots$