No estoy seguro de cómo usted tiene sólo la parte de la fórmula... quizás cometió un error de cálculo? ¿Te acuerdas de que $x^2 + y^2 = r^2$ e no $x^2 + y^2 = r$?
En cualquier caso, supongo que estás empezando con la fórmula
$$S = \iint_D \sqrt{1 + \left(\frac{\partial f}{\partial x}\right)^2 + \left( \frac{\partial f}{\partial y}\right)^2}\,dx\,dy$$
y partir desde ahí.
Naturalmente, usted tendrá que utilizar la regla de la cadena para derivadas parciales
$$\frac{\partial f}{\partial x} = \frac{\partial f}{\partial r}\frac{\partial r}{\partial x} + \frac{\partial f}{\partial \theta}\frac{\partial \theta}{\partial x}$$
$$\frac{\partial f}{\partial y} = \frac{\partial f}{\partial r}\frac{\partial r}{\partial y} + \frac{\partial f}{\partial \theta}\frac{\partial \theta}{\partial y},$$
mientras que en el proceso de deshacerse de cualquiera $x$ - $y$- términos a través de las fórmulas
$$x = r\cos \theta$$
$$y = r\sin \theta.$$
Por último, el cambio de las variables de la fórmula le permite escribir (formalmente) $$dx\,dy = r\,dr\,d\theta,$$
por lo que se deben tener en cuenta el final de la $r$plazo fuera de la raíz cuadrada.
Te dejo los detalles del cálculo.