En primer lugar, la fórmula del interés compuesto tiene aquí me parece que impar . Estoy acostumbrado a ver algo así:
$\begin{align*} (1) A = P(1 + \frac{r}{n})^{nt} \end{align*}$
La fórmula que has dado es una variante de la misma: restando el principal de ambos lados, C.I. representa A-P, o sea, "el dinero que ganaste con tu principal".
$\begin{align*} (2) A-P=C.I. = P[(1 + \frac{r}{n})^{nt} -1] \end{align*}$
Que no es más que la fórmula que di (1) con P tomada de ambos lados.
Un gran recurso gratuito en línea para obtener guías paso a paso para resolver problemas algebraicos como éste es simbolos.com (El enlace tiene la solución paso a paso para su problema exacto; tenga en cuenta que R = $100\sqrt[3]{1.157625} \approx 5\%$ ).
Otro gran recurso (pero el paso a paso está detrás de un muro de pago) es: wolframalpha.com
Dicho esto, he aquí cómo responder a su pregunta:
¿A qué tipo de interés anual se obtendrá un rendimiento de 12000 de 13891,50 como interés compuesto en 3 años?
Según la fórmula del interés compuesto, para hallar el interés:
$\begin{align*} C.I=P([1+\frac{R}{100}]^n1) \end{align*}$
En realidad, el problema no contiene información completa, porque no dice el período de capitalización. Voy a calcular la respuesta para un intervalo de capitalización de cada año (es probablemente esto), cada trimestre, cada mes, y (no es realista, pero a veces se utiliza en álgebra de la escuela secundaria:) "continuamente" (es decir, el resultado si la capitalización se realiza a intervalos infinitesimales; similar a si el interés se capitalizara cada hora).
Todos los años:
$\begin{align*} C.I=P([1+\frac{R}{100}]^n1) \\ \implies 13891.50 - 12,000= (12,000)*([1 + \frac{R}{100}]^3 -1) \\ \implies \frac{1,891.50}{12,000}= 0.157625 = ([1 + \frac{R}{100}]^3 -1) \\ \implies 1.157625 = [1 + \frac{R}{100}]^3 \\ \implies \sqrt[\huge{3}]{1.157625} \approx{} 1.05 \approx {1 + \frac{R}{100}} \\ \implies 0.05 \approx \frac{R}{100} \implies R \approx 5\% \end{align*}$
También me gustaría saludar a PiGuy por haber acertado en mucho menos palabras. Sin embargo, espero que el enfoque paso a paso de mi respuesta te ayude, Sujay.