Sí, se puede resolver este sistema utilizando el Método Runge-Kutta pero este problema tiene singularidades con las que hay que tener cuidado.
Aquí está la solución usando el solucionador numérico incorporado de Mathematica.
system = {x'[t] == y[t], y'[t] == x[t] + y[t]*z[t],z'[t] == x[t] + y[t]^2 + x[t]*z[t], x[0] == 1, z[0] == 1, y[0] == 1}
NDSolve[system, {x[t], y[t], z[t]}, {t, 0, 0.5}]
Plot[Evaluate[{x[t], y[t], z[t]} /. First[%]], {t, 0, 1/2}]
Aquí está usando Runge-Kutta
mma = NDSolve[system, {x[t], y[t], z[t]}, {t, 0, 0.5}, Method -> "ExplicitRungeKutta", "StartingStepSize" -> 1/5]
Plot[{{x[t], y[t], z[t]} /. mma}, {t, 0, 0.5}]
En ambos casos, acabo de seleccionar un CI al azar de $(x(0), y(0), z(0)) = (1,1,1)$ pero ciertamente jugaría con diferentes valores.