$\newcommand{\F}{\mathbf{F}}\newcommand{\p}{\mathbf{p}}$Si consideramos el caso no acotado de $\mathbb{R}^3$, hay una fórmula de integral de camino para construir la inversa derecha del operador de rizo para campo vectorial libre de divergencia $$ \mathcal{R}(\F) = -(\p - \p_0)\times \int^1_0 \F\Big(\p_0 + t(\p- \p_0)\Big)t\,dt.\tag{1} $$ Una prueba de esta fórmula se puede encontrar aquí, para más discusión el autor remitió al libro de Spivak Cálculo en Variedades.
En tu caso, tomando $\p_0 = \langle 0,0,0\rangle $, es $$ \mathcal{R}(\F) = \langle x,y,z\rangle \times \int^1_0 \langle y,z,x\rangle t^2 dt = -\frac{1}{3}\langle z^2-xy,x^2-yz,y^2-xz\rangle .$$ Puedes verificar que esta es realmente la inversa derecha $$ \nabla \times \mathcal{R}(\F) = \F = -\langle y, z, x\rangle. $$ Observa que el campo vectorial anterior es diferente al tuyo, porque esencialmente $\mathcal{R}(\F) + \nabla \phi$ es también la respuesta para $\phi$ suave.
Verificación adicional: la diferencia entre la inversa derecha $\mathcal{R}(\F) $ anterior y tu campo potencial $\langle xy,0,−y^2/2+xz\rangle$ es $$ \mathbf{A} = \langle \frac{2}{3}x y +\frac{1}{3}z^2, \frac{1}{3}(x^2-y z), -\frac{1}{6}y^2+\frac{2}{3}xz\rangle = \nabla \left(\frac{1}{3} x^2y + \frac{1}{3}xz^2 - \frac{1}{6}y^2 z\right), $$ realmente es un gradiente.
Si quieres eliminar el gran núcleo del operador de rizo, lo que puedes hacer es (1) elegir un calibre (fijando la divergencia de $\mathbf{G}$), y/o (2) especificando una condición de contorno restringida en un dominio simplemente conexo $\Omega$ de $\mathbb{R}^3$, planteando el siguiente problema de valor de contorno en algún $\Omega$: $$\left\{ \begin{aligned} \nabla \times \mathbf{G} &= \F\quad \text{ en }\Omega, \\ \nabla \cdot \mathbf{G} &= g \quad \text{ en }\Omega, \\ \mathbf{G} \cdot \mathbf{n} &= 0 \quad \text{ en }\Gamma. \end{aligned} \right.$$ Puedes verificar que la construcción de tu campo $\langle xy,0,−y^2/2+xz \rangle $ no es libre de divergencia, mientras que la fórmula (1) automáticamente te da el campo potencial libre de divergencia. Para $\mathbb{R}^3$ no acotado, elegir un calibre $g$ te dará el resultado que deseas.