He aquí un enfoque que casi funciona. No he sido capaz de encontrar un buen argumento para establecer la desigualdad de $(\spadesuit)$ por debajo, pero la verificación de la desigualdad mediante el código
Reduce[(1 - Cos[Pi*x])^2 - (2 + Cos[Pi*x])*(8 x^4 - 4 x^8) > 0 && 0 < x < 1, x]
en Mathematica me da el resultado
0 < x < 1
así que estoy casi seguro de que la desigualdad es verdadera. (Me sale un aviso de que la integración numérica se utiliza para verificar la integridad del conjunto de soluciones.) Si puedo encontrar un argumento, voy a editar el post.
Desde $f$ es simétrica en $x$ e $y$, es suficiente para mostrar que el $f(x,y)\geq 2\sqrt2$ tiene para todos los $0<x<y<1$. (Para los puntos en la frontera, la desigualdad sigue por la continuidad.)
Definir $\phi:(0,1)\to(0,2)$ por $$\phi(x)=1-\cos\pi x.$$ Note that this is an increasing bijective function. For all $x\in(0,1)$ we have $$\phi(x)\geq2x^2,\tag{$\clubsuit$}$$ as can be easily seen using elementary calculus.
To avoid dealing with square roots, we will analyse the square of your function: $$f(x,y)^2=\frac{x^2+y^2}{x^4y^4}\frac{\phi(x)^2\phi(y)^2}{\phi(x)(3-\phi(y))+\phi(y)(3-\phi(x))}.$$ Since $\phi$ is strictly increasing and $x<y$, we have: $$\phi(x)(3-\phi(y))+\phi(y)(3-\phi(x))\leq2\phi(y)(3-\phi(x)).$$ Therefore, $$f(x,y)^2\geq\frac{x^2+y^2}{x^4y^4}\frac{\phi(x)^2\phi(y)^2}{2\phi(y)(3-\phi(x))}\geq\frac{x^2+y^2}{x^4y^2}\frac{\phi(x)^2}{3-\phi(x)}.\tag{$\ast$}$$ where in the second step we have cancelled one of the $\phi(y)$ and used $(\clubsuit)$ to get rid of the other one.
According to Mathematica, the following inequality is true for $x\in(0,1)$: $$\frac{\phi(x)^2}{3-\phi(x)}\geq8x^4-4x^8.\tag{$\spadesuit$}$$
El uso de este en $(\ast)$ y la cancelación de $x^4$, de inmediato nos han: $$f(x,y)^2\geq\frac{(8-4x^4)(x^2+y^2)}{y^2}.$$ It remains to show that this last expression is bounded below by $8$, or equivalently: $$(8-4x^4)(x^2+y^2)\geq 8y^2.$$ But this is true, since $$(8-4x^4)(x^2+y^2)-8y^2=4x^2 (2-x^2(x^2+y^2))\geq0$$ obviously holds for $0<x<y<1$.
