Mientras que su estrategia es correcta, usted incorrectamente evaluado el seno y el coseno funciones en $x = \pi/3$ e incorrectamente se tomó la derivada.
Deje $f(x) = \cos x + 3\sin x$. Desde
$$\cos\left(\frac{\pi}{3}\right) = \frac{1}{2}$$
y
$$\sin\left(\frac{\pi}{3}\right) = \frac{\sqrt{3}}{2}$$
cuando evaluamos $f(x)$ a $\pi/3$ obtenemos
$$f\left(\frac{\pi}{3}\right) = \cos\left(\frac{\pi}{3}\right) + 3\sin\left(\frac{\pi}{3}\right) = \frac{1}{2} + \frac{3\sqrt{3}}{2} = \frac{1 + 3\sqrt{3}}{2}$$
Puesto que la derivada de $g(x) = \cos x$ es $g'(x) = -\sin x$ y el derivado de la $h(x) = \sin x$ es $h'(x) = \cos x$, la derivada de $f(x)$ es
$$f'(x) = -\sin x + 3\cos x$$
Por lo tanto, la derivada de $f(x)$ evaluado en $\pi/3$ es
$$f'\left(\frac{\pi}{3}\right) = -\sin\left(\frac{\pi}{3}\right) + 3\cos\left(\frac{\pi}{3}\right) = -\frac{\sqrt{3}}{2} + \frac{3}{2} = \frac{3 - \sqrt{3}}{2}$$
Por lo tanto, la ecuación de la recta tangente es
$$y - \frac{1 + 3\sqrt{3}}{2} = \frac{3 - \sqrt{3}}{2}\left(x - \frac{\pi}{3}\right)$$