Veamos primero su solución, $$f(x)=\tan \left( \cos^{-1} \frac{x}{x+2} \right) \\ f^{-1}(x)= \frac{2 \cos ( \tan^{-1} x )}{1-\cos ( \tan^{-1} x )} $$
Por ejemplo, considere $x=-1$ , $f(0)= \tan \pi = 0 $ y por su resultado lo hacemos no obtener el mismo valor. De todos modos, no puede ser la función inversa.
Asumiendo que no sabes mucho sobre la función inversa,
Puedes leerlo aquí sólo usaré los hechos.
Para que una relación sea una función, cada elemento del dominio debe tener una sola imagen en el codominio. Por tanto, sólo las funciones biyectivas son invertibles.
Normalmente, es necesario demostrar primero que la función es biyectiva o no. Me saltaré eso en esta respuesta.
Como puedes ver es biyectiva, y el dominio está restringido a $x \ge -1$ porque $-1\le \frac{x}{x+2} \le 1$
$\cos^{-1} \left( \frac{x}{x+2} \right)$ puede escribirse como $\tan^{-1}\left( \frac{2\sqrt{x+1}}{x} \right)$
Así que, $$ y=\tan \left( \cos^{-1} \frac{x}{x+2} \right) \\ = \frac{2\sqrt{x+1}}{x} $$
Reordena y eleva al cuadrado ambos lados para eliminar la raíz cuadrada, encuentra las raíces en términos de $x$ .
El término radical puede tener ambos ( $+$ y $-$ ), $$\pm \sqrt{b^2-4ac}$$
y para ver qué signo usar, lo mejor es ver asumir un par de valores de $x$ y obtener el valor(es) de $y$ de la función original, y ver qué signo satisface esa relación, en la función inversa.
Como $f(-1)=0$ así que $f^{-1}(0)=-1$ debe ser cierto.
Ten cuidado cuando trates con cuadrados o raíces cuadradas, porque pueden tener restricciones, de ahí que la función sea a trozos. Es más fácil eso mirando la gráfica, aunque en un examen no la tendrás. Es útil comprobar el dominio, y donde su función es negativa, positiva, cero
EDIT : para convertir una función trigonométrica inversa en otra función trigonométrica inversa, rápidamente, vea el triángulo, en su caso, deje $$ \theta =cos^{-1}\left(\frac{y}{1} \right) \\ \cos \theta =y$$ aquí, el lado adyacente, $BC=y$ y la hipotenusa es $1$ , averiguar el otro lado por el teorema de Pitágoras, $AB=\sqrt{1-y^2}$
ahora tienes Los tres lados, puedes encontrar cualquier razón trigonométrica, por su definición básica. por ejemplo, $\sin \theta = \frac{AB}{AC} =\frac{\sqrt{1-y^2}}{1}$ $$ \theta = \sin^{-1}(\sqrt{1-y^2})$$ o $$cos^{-1}(y)=\sin^{-1}(\sqrt{1-y^2})$$