La notación para las funciones trigonométricas es "tradicional", lo que significa que no es la forma en que inventaríamos la notación hoy en día.
-
$\sin^{-1}(x)$ significa el seno inverso, como mencionaste, en lugar de un recíproco. Por lo tanto, $\sin^{-1}(x)$ no es una abreviatura de $(\sin(x))^{-1}$. En cambio, es una notación para $(\sin^{-1})(x)$, de la misma manera que $f^{-1}(x)$ significa la función inversa de $f$, aplicada a $x.
-
Pero $\sin^2(x)$ significa $(\sin(x))^2$, en lugar de $\sin(\sin(x))$. En otros contextos, como en sistemas dinámicos, si tengo una función $f$, la notación $f^2$ significa $f \circ f$. Esto es compatible con la notación $f^{-1}$, si tomamos la yuxtaposición de funciones para significar composición: $f^{-1}f^{3}$ será $f^{2}$ como se desea.
Entonces la notación tradicional para el seno es en realidad una mezcla de dos sistemas diferentes: $-1$ denota un inverso, no una potencia, mientras que los exponentes enteros positivos denotan potencias, no composiciones iteradas.
Esto es simplemente un hecho de la vida, como una conjugación irregular de un verbo. Al igual que con otros idiomas, las cosas que usamos con más frecuencia son las que probablemente permanecerán irregulares. Sin embargo, eso no significa que sean incorrectas, siempre y cuando otros hablantes del idioma sepan lo que significan.
Además, si quisieras reformar el sistema, habría un argumento igualmente sólido para cambiar $\sin^2$ para que signifique $\sin \circ \sin$. Esto ya está sucediendo lentamente con $\log$; creo que el uso de $\log^2(x)$ para significar $(\log(x))^2$ está disminuyendo lentamente, porque la gente tiende a confundirlo con $\log(\log(x))$. Esa confusión es menos probable con $\sin$ porque $\sin(\sin(x))$ surge tan raramente en la práctica, a diferencia de $\log(\log(x)).