Yo no soy matemático y estoy un poco de miedo de que mi respuesta es demasiado simple para ser verdad, pero aquí va:
Puedo usar las transformadas de Fourier para definir la derivada fraccional. $x(\omega)$ está definido de tal forma que
$$ x(t) = \int_{-\infty}^\infty \, \frac{\text{d}\omega}{2\pi} \text{e}^{i \omega t} \, x(\omega) \, .$$
Entonces cualquier número entero derivados es
$$ \frac{\text{d}^n}{\text{d} t^n} x(t) = \int_{-\infty}^\infty \, \frac{\text{d}\omega}{2\pi} \text{e}^{i \omega t} \, i \omega )^n \, x(\omega) \, ,$$
así que
$$ \left(\frac{\text{d}^n x}{\text{d} t^n}\right)(\omega) = (i \omega )^n \, x(\omega) \, .$$
Entonces esto puede ser generalizado a cualquier número real $$ n. En particular,
$$ \frac{\text{d}^{1/2}}{\text{d} t^{1/2}} x(t) = \int_{-\infty}^\infty \, \frac{\text{d}\omega}{2\pi} \text{e}^{i \omega t} \, \sqrt{i \omega } \, x(\omega) \, .$$
Desde su ecuación es lineal puede resolverse por separado para cada uno de los modos de Fourier. En el espacio de Fourier se convierte en
$$ \left(- m \omega^2 + k \sqrt{i \omega}\right) x(\omega) = 0 \, .$$
Esto nos dice que, o bien $x(\omega) = 0$ o $ \omega^2 = \frac{k}{m} \sqrt{i \omega}$. La primera solución es trivial. Es equivalente a $x(t)= 0$. La segunda, sin embargo, tiene cuatro soluciones:
\begin{align}
& \omega_1 = \left(\frac{k}{m}\right)^{2/3} \text{e}^{i\,\pi/6} \, ,\\
& \omega_2 = \left(\frac{k}{m}\right)^{2/3} \text{e}^{i\,\pi/2} \, , \\
& \omega_3 = \left(\frac{k}{m}\right)^{2/3} \text{e}^{i \, 5\pi/6} \, , \\
& \omega_4 = 0 \, .
\end{align}
A continuación, el más general de la solución a su problema
$$x(t) = C_1 \text{e}^{i\omega_1 t} + C_2 \text{e}^{i\omega_2 t} + C_3 \text{e}^{i\omega_3 t} + C_4\, .$$
$C_i$ son constantes de integración. De forma explícita se encuentra,
$$x(t) = C_1 \, \text{e}^{i \,t \, (k/m)^{2/3} \sqrt{3}/2} \, \text{e}^{-(k/m)^{2/3} t/2} + C_2 \, \text{e}^{- (k/m)^{2/3} t} + C_3 \, \text{e}^{-i \, t \, (k/m)^{2/3} \sqrt{3}/2} \, \text{e}^{-(k/m)^{2/3} t/2} + C_4 \, .$$
Nos encontramos con tres soluciones que la caries de forma exponencial y constante. Dos de la descomposición de las soluciones oscilan así.
Con el fin de hacer un complot, me puse C_4 = 0 porque esto equivale a un simple desplazamiento vertical de $x(t)$, yo elijo $C_1 = C_2^* = (c_1 + i c_2)/2$ y $C_3 = C_3^*$, de modo que $x(t)$ es real, me ajustar la escala de tiempo de acuerdo a $\tau = t \, (k/m)^{2/3}/2$ y cambiar la escala de $x(t)$ según $y = x \, C_3$. Entonces mi se convierte en una solución,
$$y(\tau) = \text{e}^{-\tau} \left[ c_1 \, \cos(\sqrt{3} \, \tau) + c_2 \sin(\sqrt{3} \, \tau) \right] + \text{e}^{-2 \tau} \, .$$
Aquí está una parcela de $y(\tau)$ para diferentes valores de $c_{1,2}$: