Recomiendo otro enfoque. Utilicemos la forma polar para encontrar $z_0$ .
Vemos que $|z|=\sqrt{18^2+26^2}=\sqrt{1000}$ . Así $|z_0|$ es su raíz cúbica, es decir $|z_0|=\sqrt{10}$ .
Para encontrar el argumento de $z_0$ (llamémoslo $\theta$ ), nótese que el argumento de $z_0^3=z=18+26i$ es $3\theta$ y viene dado por $\tan3\theta=\frac{26}{18}=\frac{13}9$ . Ampliando,
$$\begin{align} \frac{13}9 &= \tan 3\theta \\[2ex] &= \tan(2\theta+\theta) \\[2ex] &= \frac{\tan 2\theta+\tan\theta}{1-(\tan 2\theta)(\tan\theta)} \\[2ex] &= \frac{\frac{2\tan\theta}{1-\tan^2\theta}+\tan\theta} {1-\left(\frac{2\tan\theta}{1-\tan^2\theta}\right)(\tan\theta)} \\[2ex] &=\frac{3\tan\theta-\tan^3\theta}{1-3\tan^2\theta} \end{align}$$
Dejar $t=\tan\theta$ y reordenando esa ecuación, obtenemos
$$9t^3-39t^2-27t+13=0$$
Usando el Teorema de la Raíz Racional podemos factorizarlo en
$$(3t-1)(3t^2-12t-13)=0$$
Lo que nos da las soluciones
$$\tan\theta=t=\frac 13, \ \frac{6\pm5\sqrt 3}{3}$$
El argumento positivo más pequeño viene dado por la primera solución, $\tan\theta=\frac 13$ . Podemos combinarlo rápidamente con $|z_0|=\sqrt{10}$ para obtener la respuesta
$$z_0=3+i$$
Esto podría haberse visto por inspección mucho antes, pero quería mostrar una exposición más completa de cómo obtener esa respuesta. Comprobando rápidamente nos muestra que esta es la raíz cúbica deseada de $z$ . En cualquier caso, obtenemos
$$x_0=3, \ y_0=1$$
y la respuesta final
$$x_0y_0(x_0+y_0)=3\cdot 1(3+1)=12$$