Debes saber que $A$ es una elipse girada con un ángulo de $\pi/8$ con respecto a la $x$ eje. Esto se puede demostrar haciendo la transformación
$$x'=x \cos{\theta} - y \sin{\theta}$$ $$y'=x \sin{\theta}+y \cos{\theta}$$
A continuación, se sustituye en la ecuación de la curva que delimita $A$ arriba y encontrar $\theta$ tal que el coeficiente de $x'y'$ desaparece. Detalles aquí . La ecuación de la elipse en coordenadas rotadas es
$$\frac{x'^2}{a^2} + \frac{y'^2}{b^2} = 1$$
donde $a=(2+\sqrt{2})/\sqrt{7}$ y $b=(2-\sqrt{2})/\sqrt{7}$ . Entonces se puede transformar la integral en una integral sobre la bola unitaria escribiendo $x'=a \rho \cos{\phi}$ y $y'=b \rho \sin{\phi}$ , $\rho \in [0,1]$ , $\phi \in [0,2 \pi]$ . Tenga en cuenta que $dx dy = dx' dy'$ porque la transformación es una rotación y por lo tanto es unitaria. La integral se convierte entonces en
$$\int_A dx dy \, x y = \frac{\sqrt{2}}{4} a b \int_0^{2 \pi} d\phi \, \int_0^1 d\rho \, \rho^3 (a^2 \cos^2{\phi} - b^2 \sin^2{\phi} + 2 a b \cos{\phi} \sin{\phi})$$
que puede ser evaluado fácilmente.