Consideremos el conjunto de pares de enteros $(i,j)$ tal que $$0<i\le\frac a2\ ,\quad 0<j\le \frac b2\ .$$ Se puede visualizar como un rectángulo con diagonal de $(0,0)$ a $(\frac a2,\frac b2)$ . Contaremos el número de puntos de este rectángulo de dos maneras.
En primer lugar, la anchura del rectángulo es $[\frac a2]$ y la altura es $[\frac b2]$ . Así que la respuesta es $[\frac a2][\frac b2]$ .
Alternativamente, cuenta los puntos del triángulo por debajo de la diagonal. Como la diagonal tiene pendiente $\frac ba$ el número de puntos con $x=i$ est $[\frac{ib}a]$ y el total es $$\sum_{i=1}^{[a/2]} \Bigl[\frac{ib}a\Bigr]\ .$$ Haciendo lo mismo para el triángulo sobre la diagonal se obtiene $$\sum_{j=1}^{[b/2]}\Bigl[\frac{ja}b\Bigr]\ .$$ Sin embargo, hemos contado algunos puntos dos veces, a saber, los que están (si los hay) en la diagonal. Sea $g=gcd(a,b)$ . Entonces estos puntos son $$\Bigl(k\frac ag,\,k\frac bg\Bigl)$$ con $1\le k\le\frac g2$ . Así que hay $[\frac{(a,b)}2]$ puntos que debemos restar y por lo tanto $$[\frac a2][\frac b2]=\sum_{j=1}^{[b/2]}\Bigl[\frac{ja}b\Bigr]+\sum_{j=1}^{[b/2]}\Bigl[\frac{ja}b\Bigr]-\Bigl[\frac{(a,b)}2\Bigr]\ .$$