Parece que hay cierta falta de claridad sobre la parametrización de la región $D$ . Esto es lo que parece:
Aquí he utilizado la ecuación polar $r=2\sin\phi$ para el límite circular de $D$ . En la figura hay líneas para valores constantes de $\phi$ . Se ve que a lo largo de tal rayo, con origen en el origen y apuntando a la dirección $\phi$ la distancia al origen crece desde $r=0$ a $r=2\sin\phi$ . También se ve que las direcciones de esos rayos varían en el rango $0\le\phi\le\pi/2$ . Por lo tanto, la integral que hay que calcular es $$ I=\int_{\phi=0}^{\pi/2}\int_{r=0}^{2\sin\phi}r^2\cdot r\,dr\,d\phi. $$
Si se desea la integración utilizando coordenadas cartesianas, entonces es natural observar que $x$ se sitúa en el intervalo $[0,1]$ . Entonces hay que tener en cuenta que para un valor dado de $x$ la gama de valores de $y$ es de $1-\sqrt{1-x^2}$ (=el límite inferior de $D$ ) a $1+\sqrt{1-x^2}$ (=el límite superior de $D$ ). Así, $$ I=\int_{x=0}^1\int_{y=1-\sqrt{1-x^2}}^{1+\sqrt{1-x^2}}(x^2+y^2)\,dy\,dx. $$
Es un ejercicio útil para comprobar que se obtiene el mismo valor para esta integral sea cual sea la forma de hacerlo.
El fenómeno general que debes aprender ABSOLUTAMENTE aquí es que los límites de la integral interna (la integración que haces primero) pueden, y normalmente dependerán, de la variable de la integración externa. Los límites de la integral externa, en cambio, deben ser constantes.
Si por error haces la integral polar con límites $-\pi/2\le\phi\le\pi/2$ , $0\le r\le 2$ se estará integrando sobre un semicírculo mucho más grande, a saber, la mitad $x\ge0$ del disco $x^2+y^2\le 4$ . A continuación se muestra una figura que muestra esta zona más grande con la región correcta $D$ encima.