Desde
$a, b, c > 0, \tag 1$
podemos establecer
$\alpha = \dfrac{b}{a}, \; \beta = \dfrac{c}{a}, \tag{2}$
y obtener una ecuación equivalente
$y'' + \alpha y' + \beta y = 0, \; \alpha, \beta > 0; \tag{3}$
a continuación, ajuste de
$\mu_\pm = \dfrac{1}{2}(-\alpha \pm \sqrt{\alpha^2 - 4 \beta}), \tag 4$
podemos distinguir dos casos: el primero
$\alpha^2 \ne 4 \beta, \tag 5$
de dónde
$\sqrt{\alpha^2 - 4\beta} \ne 0, \tag 6$
y las raíces $\mu_\pm$ son por lo tanto distinta; en este caso la solución general es de la forma
$y(t) = c_+ e^{\mu_+ t} + c_- e^{\mu_- t}; \tag 7$
pues a partir de (4) cada uno de los $\mu_\pm$ tiene parte real negativa,
$\displaystyle \lim_{t \to \infty} y(t) = 0; \tag 8$
si, por otro lado,
$\alpha^2 = 4\beta, \tag 9$
entonces podemos escribir
$\mu_+ = \mu_- = \mu = -\dfrac{\alpha}{2} < 0, \tag{10}$
y la solución que ahora toma la forma
$y(t) = e^{\mu t}(c_1 + c_2 t) \to 0 \; \text{as} \; t \to \infty, \tag{11}$
dado que el término exponencial domina $c_1 + c_2 t$ $t$ lo suficientemente grande.
En cualquier caso, si $\mu_+ = \mu_-$ o no, tenemos $\lim_{t \to \infty} y(t) = 0$; por lo tanto (b) es el resultado correcto.
Sólo para comprobar que $t e^{\mu t}$ resuelve (3): si
$y(t) = te^{\mu t}, \tag{12}$
entonces
$y'(t) = e^{\mu t} + \mu t e^{\mu t}; \tag{13}$
$y''(t) = \mu e^{\mu t} + \mu e^{\mu t} + \mu^2 t e^{\mu t} = \mu^2 t e^{\mu t} + 2 \mu e^{\mu t}; \tag{14}$
$y''(t) + \alpha y'(t) + \beta y(t) = \mu^2 t e^{\mu t} + 2 \mu e^{\mu t} + \alpha \mu t e^{\mu t} + \alpha e^{\mu t} + \beta t e^{\mu t}$
$= (\mu^2 + \alpha \mu + \beta) t e^{\mu t} + (\alpha + 2 \mu) e^{\mu t} = 0 \tag{15}$
desde
$\mu^2 + \alpha \mu + \beta = (\mu + \dfrac{\alpha}{2})^2 = 0 = 2\alpha + \mu, \tag{16}$
lo que sigue a partir de (4) al (9), que se une.