Con la ecuación que describe la incompressibility, no hay mucho que se puede tomar:
$$\frac{1}{r}\frac{∂u_θ}{∂θ}=0$$
$$u_\theta(r)=f(r)+C$$
Con las condiciones de frontera,
$$u_\theta(a)=\Omega a\implies f(a)+C=\Omega a$$
Para un flujo irrotacional, la curvatura es cero y, con las restricciones, la única relevante término es (se olvida de la $ru_\theta$ cosa en el parcial):
$$\frac{1}{r}\frac{∂(ru_θ)}{∂r}=0$$
$$ru_\theta=K$$
Con la condición de límite $u_\theta(a)=\Omega a$
$$au_\theta(a)=K\implies K=\Omega a^2$$
$$u_\theta=\dfrac{\Omega a^2}{r}$$
Para el agregado de la segunda pregunta
En general, $\dfrac{∂\phi }{∂t}+ \dfrac{1}{2}|\nabla\phi|^2+\dfrac{p}{\rho}+gη=0$. Para la superficie libre de $p=0$ y porque estacionaria $\dfrac{∂\phi }{∂t}=0$
No es necesario que el flujo potencial como tenemos el flujo, por lo que es, $\vert\nabla\phi\vert=u_\theta=\dfrac{\Omega a^2}{r}$, e $\eta=z$ debido a que la energía potencial depende de la altura/profundidad, expresada por $z$.
$\dfrac{1}{2}|u_\theta|^2+gz=0$
$\dfrac{1}{2}\left(\dfrac{\Omega a^2}{r}\right)^2+gz=0\implies z=-\dfrac{\Omega^2a^4}{2gr^2}$