Aquí hay dos usos de la notación: escribir $f^2(x)$ para $ f(f(x)) $ y escribir $f^2(x)$ para $(f(x))^2$ . Este último es básicamente sólo estándar para las funciones trigonométricas, porque ahorra tiempo respecto a la escritura $(\sin{x})^2$ . Supongo que esto tiene una base histórica, dada la frecuencia con la que escribimos potencias de funciones trigonométricas.
La otra notación, $\sin^{-1}{x}$ es una consecuencia de la notación moderna de funciones, donde $f^{-1}$ es la inversa de $f$ , es decir, una función tal que $f(f^{-1}(y)) = y$ y $f^{-1}(f(x)) = x $ . La razón por la que se introdujo esto es bastante desconcertante, por decir lo menos, teniendo en cuenta que tenemos la notación perfectamente comprensible $\arcsin{x}$ para la inversa de la función seno. Y lo que es peor, las inversas de las funciones trigonométricas no son realmente inversas, ya que estas funciones son periódicas, y por tanto no son inyectivas. Al descartar la $\arcsin$ notación sería lo mismo que desechar la notación $\log{x}$ para la inversa de la función exponencial.
Lo único que puede hacer es fomentar el uso de una notación inequívoca y explicar que la notación de las funciones trigonométricas no es la notación funcional estándar: para las funciones genéricas, la mayoría de los matemáticos no omiten los paréntesis alrededor de los argumentos, pero esto es totalmente estándar para las funciones trigonométricas, por ejemplo.