Consideremos la primera integral,
$$\int_0^1 \left( \int_0^1 f(x,y) dy\right) dx. \tag{1}$$
La integral interna es $$ \int_0^1 f(x,y) dy.$$ Si $x$ es un número racional, entonces esto es $$ \int_0^1 1 dy = 1.$$ Si $x$ es irracional, entonces esta integral es $$ \int_0^1 2y dy = y^2 \bigg|_0^1 = 1.$$ Así que la integral interna es siempre $1$ . Por lo tanto, podemos reescribir $(1)$ como $$ \int_0^1 1 dx = 1.$$
Consideremos ahora la segunda integral, $$ \int_0^1 \left( \int_0^1 f(x,y) dx \right) dy. \tag{2}$$ Debemos considerar de nuevo la integral interna. La integral interna es $$ \int_0^1 f(x,y) dx.$$ Si $y$ es cualquier número que no sea $\frac{1}{2}$ , entonces esta integral no es integrable. En resumen, como los racionales y los irracionales son cada uno denso en $[0,1]$ cualquier partición de suma superior de $[0,1]$ dará una estimación de área muy diferente en comparación con cualquier partición de suma inferior de $[0,1]$ .
Esta función es esencialmente la Función Dirichlet y es un ejercicio clásico demostrar que la función de Dirichlet no es integrable [Ver esta respuesta en este sitio a una pregunta similar para una explicación de por qué $(2)$ no es integrable].
Dado que la integral interna en $(2)$ no es integrable, tenemos que esta integral no existe.