Así que has resuelto el sistema homogéneo. Para obtener ahora la solución del sistema no homogéneo puedes utilizar la técnica de la variación de la constante. Sea
$$ \begin{bmatrix}a\\b \end{bmatrix}= e^{Pu}c(u) \longrightarrow \frac{d}{du}\begin{bmatrix}a\\b \end{bmatrix} = Pe^{Pu}c(u) + e^{Pu}c'(u)$$
Así, tenemos $e^{Pu}c'(u) = \begin{bmatrix}\cos(zu)\\ -\sin(zu)\end{bmatrix}$ y $c(0) = 0$ . Lo único que queda por hacer es resolver este sistema lineal e integrar con respecto a. $u$ :
$$c'(u) = e^{-Pu}\begin{bmatrix}\cos(zu)\\ -\sin(zu)\end{bmatrix} = e^{xu}\begin{bmatrix}\cos(yu)& \sin(yu)\\ -\sin(yu) & \cos(yu)\end{bmatrix}^{-1} \cdot\begin{bmatrix}\cos(zu)\\ -\sin(zu)\end{bmatrix} $$
Como la matriz es ortonormal, su inversa es simplemente su transposición:
$$c'(u) = e^{xu}\begin{bmatrix}\cos(yu)& -\sin(yu)\\ \sin(yu) & \cos(yu)\end{bmatrix} \cdot\begin{bmatrix}\cos(zu)\\ -\sin(zu)\end{bmatrix} = e^{xu}\begin{bmatrix}\cos(yu-zu) \\\sin(yu-zu)\end{bmatrix} $$
Donde utilicé los teoremas de adición para simplificar la expresión. Ahora integra, utilizando las fórmulas
\begin{align} \int \sin(\alpha u) e^{\beta u} du &= \frac{\beta\sin(\alpha u) - \alpha\cos(\alpha u)}{\alpha^2+\beta^2}e^{\beta u} +\text{const.}\\ \int \cos(\alpha u) e^{\beta u} du &= \frac{\beta\cos(\alpha u) + \alpha\sin(\alpha u)}{\alpha^2+\beta^2}e^{\beta u} +\text{const.}\\ \end{align}
para conseguir
$$ c(u) = \frac{1}{x^2 + (y-z)^2}e^{xu} \begin{bmatrix} x\cos((y-z)u) + (y-z)\sin((y-z) u)\\ x\sin((y-z) u) - (y-z)\cos((y-z) u) \end{bmatrix} + \text{const.} $$
Y para satisfacer la condición inicial $c(0)=0$ necesitamos
$$ \text{const.} = -\frac{1}{x^2 + (y-z)^2}\begin{bmatrix} x \\- (y-z) \end{bmatrix}$$