Su ecuación es una EDO de 2º orden, de coeficientes constantes, no homogénea y lineal. Además, el término no homogéneo es una función a trozos que, como $t > 0$ divide su dominio en dos subdominios, $I_1 = (0,\pi)$ y $I_2 = [\pi,\infty)$ . Esto le lleva a resolver la ecuación para cada uno de los subdominios. Para ello, siga, por ejemplo, este enlace o este . Fíjese que acabará con dos soluciones, $y_1(x)$ para $x \in I_1$ y $y_2$ para $x \in I_2$ con, además, cuatro constantes de integración (diferentes). Entonces se pueden poner algunas de ellas como funciones de las otras para tener una solución continua, siempre que las condiciones iniciales en $x\in I_1$ .
Fíjate también que la parte homogénea de tus ecuaciones no cambia, por lo que debería seguir siendo la misma. De hecho, tenemos:
$$\mathrm{L}[y_h] = y'' +y' + \frac{5}{4} y = 0, $$ y la ecuación característica nos dice que $r_{1,2} = - \frac{1}{2} \pm \mathrm{i}$ son sus respectivas soluciones. Así que:
$$y_h(t) = e^{-t/2} ( A\cos{t} + B \sin{t} ).$$
Veamos cómo podemos resolver este problema utilizando la transformada de Laplace. Tomando la transformada de Laplace en ambos lados llegamos a:
$$Y(s)(s^2 + s+ 5/4) = \mathcal{L}_s g(t), $$ donde se han considerado las condiciones iniciales y la RHS es la transformada de Laplace de una función definida sobre dos intervalos, es decir
$$\mathcal{L}_s g(t) = \int^\infty_0 g(t)e^{-s t} \, \mathrm{d}t = \int^\pi_0 \sin{t}e^{-st} \, \mathrm{d}t+\int^\infty_\pi 0 \times e^{-st} \, \mathrm{d}t = \frac{1+e^{-\pi s}}{s^2+1},$$
por lo tanto, resolviendo para $Y(s)$ y transformando en antiplaza ambos lados obtenemos:
$$\color{blue}{y(t) = \mathcal{L}^{-1}[Y(s)] = \mathcal{L}^{-1} \left[ \frac{1 + e^{-\pi s}}{(s^2+s+5/4)(s^2+1) } \right] = \mathcal{L}^{-1}[G(s)].}$$
Obsérvese que ahora podemos escribir $G(s)$ de la siguiente manera:
$$ G(s) = \frac{1}{ (s^2+s+5/4)(s^2+1) } + \frac{e^{-\pi s}}{(s^2+s+5/4)(s^2+1)}, $$
y, como $1/(s^2+1) = \mathcal{L}_s[\sin{t}]$ y $1/(s^2+s+5/4) = \mathcal{L}_s[e^{-t/2} \sin{t} ]$ podemos escribir:
$$ G(s) = \underbrace{\mathcal{L}_s[\sin{t}]\mathcal{L}_s[e^{-t/2} \sin{t} ]}_{Q(s)} \ + \ e^{-\pi s} \mathcal{L}_s[\sin{t}]\mathcal{L}_s[e^{-t/2} \sin{t} ]. $$
Por lo tanto, por el teorema de convolución tenemos:
\begin{align} q(t) & = \sin{t} * e^{-t/2} \sin{t} = \int^t_0 \sin{(t-\tau)} e^{ -t/2} \sin{t} \, \mathrm{d} \tau \\ & = \frac{8}{17} e^{-t/4} \left(\cosh(t/4) \sin{t} - 4 \cos{t} \sinh{(t/4)} \right), \end{align}
donde Mathematica ha facilitado las cosas aquí. Por último, utilizando el hecho de que $\mathcal{L}^{-1} [F(s) e^{-a s}]=H(t-a) f(t-a), $ $a\in \mathbb{R}$ , donde $H$ es la función de Heaviside o de paso unitario, finalmente obtenemos la solución como sigue:
$$\color{blue}{y(t) = q(t) + H(t-\pi) q(t-\pi)}.$$
A continuación se presenta un boceto de la solución para $0 \leq t \leq 5 \pi$ obtenida mediante la transformada de Laplace que coincide, por supuesto, con la obtenida mediante $\texttt{DSolve}$ con Mathematica:
podemos ver que, si esto corresponde a un sistema dinámico, entonces es un oscilador armónico amortiguado estable.
¡Salud!