ENFOQUE GENERAL:
Integrando directamente y aplicando la condición $\Phi(0)=0$ encontramos que
$$\Phi(r)=-\int_0^r \frac1{r'} \int_0^{r'}r''\rho(r'')\,dr''\,dr'\tag 1$$
Cambiar el orden de integración en $(1)$ rinde
$$\begin{align} \Phi(r)&=-\int_0^r r''\rho(r'')\int_{r''}^r \frac1{r'} \,dr'\,dr''\\\\ &=\bbox[5px,border:2px solid #C0A000]{\int_0^r r''\log(r''/r)\rho(r'')\,dr''} \end{align}$$
El caso de $\displaystyle \rho(r)=(a-r)u(a-r)$
Si $r<a$ entonces
$$\begin{align} \Phi(r)&=\int_0^r r''\log(r''/r)(a-r'')\,dr''\\\\ &=\bbox[5px,border:2px solid #C0A000]{\frac19r^3-\frac14ar^2}\tag 2 \end{align}$$
Si $r>a$ entonces
$$\begin{align} \Phi(r)&=\int_0^a r''\log(r''/r)(a-r'')\,dr''\\\\ &=\bbox[5px,border:2px solid #C0A000]{a^3\left(\frac16 \log(a/r)-\frac5{36}\right)}\tag3 \end{align}$$
ENFOQUE DIRECTO:
Otra forma de avanzar es escribir para $r\le a$
$$\frac1r\frac d{dr}\left(r\frac{d\Phi(r)}{dr}\right)=-(a-r)\tag 4$$
Entonces, multiplicando $(4)$ por $r$ e integrando encontramos que
$$r\frac{d\Phi(r)}{dr}=-\frac12ar^2+\frac13r^3\tag 5$$
Dividiendo $(5)$ por $r$ e integrando encontramos que
$$\bbox[5px,border:2px solid #C0A000]{\Phi(r)=-\frac14 ar^2+\frac19r^3} \tag6$$
que está de acuerdo con $(2)$ ¡!
Para $r\ge a$ podemos escribir
$$\frac1r\frac d{dr}\left(r\frac{d\Phi(r)}{dr}\right)=0\tag 7$$
Entonces, multiplicando $(7)$ por $r$ e integrando encontramos que
$$r\frac{d\Phi(r)}{dr}=a\frac{d\Phi(a)}{da}\tag 8$$
Dividiendo $(8)$ por $r$ e integrando encontramos que
$$\Phi(r)=a\frac{d\Phi(a)}{da}\log(a/r)+\Phi(a)\tag 9$$
Utilizando $(6)$ para encontrar $\Phi(a)$ y $\frac{d\Phi(a)}{da}$ rinde
$$\begin{align} \bbox[5px,border:2px solid #C0A000]{\Phi(r)=a^3\left(\frac16 \log(a/r)-\frac5{36}\right)}\tag{10} \end{align}$$
que está de acuerdo con $(3)$ ¡!