Tienes razón, pero pensemos en el porqué de esto:
Si $\sec \theta \leq -1$ entonces $-1 \leq \cos \theta < 0$ lo que implica el cuadrante II o III. Por lo tanto, dado que el rango de $\sec^{-1}$ es $[0, \pi]-\{\frac \pi 2\}$ (Cuadrante I o II), debemos tener $\theta \in (\frac \pi 2, \pi]$ (Cuadrante II)
Ahora bien, si $x \leq -1$ entonces $-1 < \frac{\sqrt{x^2-1}}{x}=\sin \alpha \leq 0$ , lo que implica el Cuadrante III o el Cuadrante IV. Por lo tanto, dado que el rango de $\sin^{-1}$ es $[-\frac \pi 2, \frac \pi 2]$ (Cuadrante I o IV), debemos tener $\alpha \in (-\frac \pi 2, 0]$ (Cuadrante IV).
Ahora, consideremos algunos valores de $x$ : $$x=-1 \implies \sin \alpha=0 \wedge \sec \theta=-1 \implies \alpha=0 \wedge \theta=\pi$$ $$x=-\frac{2}{\sqrt 3} \implies \sin \alpha=-\frac 1 2 \wedge \sec \theta=-\frac{2}{\sqrt 3} \implies \alpha=-\frac \pi 6 \wedge \theta=\frac{5\pi}{6}$$
Como se ve en nuestros dos ejemplos, ambos $\alpha$ y $\theta$ tienen los mismos ángulos de referencia, pero $\alpha$ está en el cuadrante IV mientras que $\theta$ está en el cuadrante II. Por lo tanto, sólo tenemos que cambiar $\alpha$ en el cuadrante II girándolo $\pi$ radianes, por lo que obtenemos $\alpha+\pi=\theta$ o: $$\sin^{-1} \frac{\sqrt{x^2-1}}{x}+\pi=\sec^{-1}x$$