El primer paso es correcto, usted necesita $3+2A+B=0$ para la función a converger. Vamos a sustituir $B=-3-2A$ en la función original. Ellos se han
$$
f(x)=\frac{\sin(3x)+\sin(2x)+(-3-2A)\sin(x)}{x^5}
$$
El uso de la suma de ángulos fórmulas:
$$
\sin(3x)=\sin(x)\cos(2x)+\cos(x)\sin(2x)=\sin(x)(\cos^2(x)-\sin^2(x))+2\sin(x)\cos(x)^2.
$$
Ahora, usando el estándar de trig identidad, $\sin^2(x)=1-\cos^2(x)$. Por lo tanto,
$$
\sin(3x)=4\sin(x)\cos(x)^2-\sin(x)
$$
También el uso de la suma de ángulos fórmulas:
$$
\sin(2x)=2\sin(x)\cos(x)
$$
Sustituyendo en la función original, tenemos
$$
f(x)=\frac{4\sin(x)\cos^2(x)-\sin(x)+2A\sin(x)\cos(x)-3\sin(x)-2A\sin(x)}{x^5}.
$$
Mediante la combinación de los términos con $A$ y los que no, tenemos
$$
f(x)=\frac{4\sin(x)(\cos^2(x)-1)+2A\sin(x)(\cos(x)-1)}{x^5}=\frac{\sin(x)}{x}\cdot\frac{4(\cos^2(x)-1)+2A(\cos(x)-1)}{x^4}
$$
Factorización de una diferencia de cuadrados, el numerador se convierte en
$$
f(x)=\frac{\sin(x)}{x}\cdot\frac{4(\cos(x)-1)(\cos(x)+1)+2A(\cos(x)-1)}{x^4}$$
Factorización de nuevo, tenemos
$$f(x)=\frac{\sin(x)}{x}\cdot\frac{\cos(x)-1}{x^2}\cdot\frac{4(\cos(x)+1)+2A}{x^2}
$$
Observar que
$$
\lim_{x\rightarrow 0}\frac{\cos(x)-1}{x^2}=\lim_{x\rightarrow 0}\frac{\cos(x)-1}{x^2}\cdot\frac{\cos(x)+1}{\cos(x)+1}=\lim_{x\rightarrow 0}\frac{\cos^2(x)-1}{x^2(\cos(x)+1)}
$$
Luego, usando el estándar de identidades trigonométricas, conseguimos que este límite es igual a
$$
\lim_{x\rightarrow 0}\frac{-\sin^2(x)}{x^2(\cos(x)+1)}=\lim_{x\rightarrow 0}\left(\frac{\sin(x)}{x}\right)^2\frac{-1}{\cos(x)+1},
$$
que podemos ver tiene un límite de $-\frac{1}{2}$.
Continuando a partir de aquí, usted también necesita el numerador a desaparecer para el límite de existir debido a que el denominador se desvanece. En otras palabras, $\lim_{x\rightarrow 0}4(\cos(x)+1)+2A=8+2A$ debe $0$, lo $A=-4$. Después de la sustitución, toda la fórmula se convierte en
$$f(x)=\frac{\sin(x)}{x}\cdot\frac{\cos(x)-1}{x^2}\cdot\frac{4(\cos(x)-1)}{x^2}
$$
Sustituyendo los valores que hemos calculado el límite como
$$
\lim_{x\rightarrow 0}f(x)=1\cdot\left(-\frac{1}{2}\right)\cdot\left(-\frac{4}{2}\right)=1.
$$
