Sí, se puede resolver este sistema utilizando el Método Runge-Kutta pero este problema tiene singularidades con las que hay que tener cuidado.
Aquí está la solución usando el solucionador numérico incorporado de Mathematica.
system = {x'[t] == y[t], y'[t] == x[t] + y[t]*z[t],z'[t] == x[t] + y[t]^2 + x[t]*z[t], x[0] == 1, z[0] == 1, y[0] == 1}
NDSolve[system, {x[t], y[t], z[t]}, {t, 0, 0.5}]
Plot[Evaluate[{x[t], y[t], z[t]} /. First[%]], {t, 0, 1/2}]
![enter image description here]()
Aquí está usando Runge-Kutta
mma = NDSolve[system, {x[t], y[t], z[t]}, {t, 0, 0.5}, Method -> "ExplicitRungeKutta", "StartingStepSize" -> 1/5]
Plot[{{x[t], y[t], z[t]} /. mma}, {t, 0, 0.5}]
![enter image description here]()
En ambos casos, acabo de seleccionar un CI al azar de (x(0),y(0),z(0))=(1,1,1) pero ciertamente jugaría con diferentes valores.