Después de pensar un poco más conseguí la función $a(q)$ en la forma que quería. Partimos de la ecuación $$\eta(q) = q^{1/24}\prod_{n = 1}^{\infty}(1 - q^{n}) = 2^{-1/6}\sqrt{\frac{2K}{\pi}}k^{1/12}k'^{1/3}$$ Tomando los registros obtenemos $$\frac{\log q}{24} + \sum_{n = 1}^{\infty}\log(1 - q^{n}) = \frac{\log k}{12} + \frac{\log k'}{3} + \frac{\log 2}{3} + \frac{1}{2}\log\left(\frac{K}{\pi}\right)$$ o $$-\frac{\pi}{24}\cdot\frac{K'}{K} - \sum_{n = 1}^{\infty}\frac{q^{n}}{n(1 - q^{n})} = \frac{\log k}{12} + \frac{\log k'}{3} + \frac{\log 2}{3} + \frac{1}{2}\log\left(\frac{K}{\pi}\right)$$ para que la función $a(q)$ viene dada por $$a(q) = \sum_{n = 1}^{\infty}\frac{q^{n}}{n(1 - q^{n})} = -\frac{\log k}{12} - \frac{\log k'}{3} - \frac{\log 2}{3} - \frac{1}{2}\log\left(\frac{K}{\pi}\right) - \frac{\pi K'}{24K}\tag{1}$$ Ahora bien, si cambiamos $q$ a $q^{2}$ necesitamos reemplazar $k$ por $(1 - k')/(1 + k')$ y $K$ por $K(1 + k')/2$ y la relación $K'/K$ simplemente se duplica, por lo que obtenemos \begin{align}a(q^{2}) &= -\frac{1}{12}\log\left(\frac{1 - k'}{1 + k'}\right) - \frac{1}{6}\log\left(\frac{4k'}{(1 + k')^{2}}\right) - \frac{\log 2}{3} - \frac{1}{2}\log\left(\frac{K(1 + k')}{2\pi}\right) - \frac{\pi K'}{12K}\notag\\ &= -\frac{1}{6}\log\left(\frac{k}{1 + k'}\right) - \frac{1}{6}\log\left(\frac{4k'}{(1 + k')^{2}}\right) - \frac{\log 2}{3} - \frac{1}{2}\log\left(\frac{K(1 + k')}{2\pi}\right) - \frac{\pi K'}{12K}\notag\\ &= -\frac{1}{6}\log\left(\frac{4kk'}{(1 + k')^{3}}\right) - \frac{\log 2}{3} - \frac{1}{2}\log\left(\frac{K(1 + k')}{2\pi}\right) - \frac{\pi K'}{12K}\notag\\ &= -\frac{\log(4kk')}{6} - \frac{\log 2}{3} - \frac{1}{2}\log\left(\frac{K}{2\pi}\right) - \frac{\pi K'}{12K}\notag\\ &= -\frac{\log(kk')}{6} - \frac{\log 2}{6} - \frac{1}{2}\log\left(\frac{K}{\pi}\right) - \frac{\pi K'}{12K}\notag \end{align} En resumen $$a(q^{2}) = -\frac{\log(kk')}{6} - \frac{\log 2}{6} - \frac{1}{2}\log\left(\frac{K}{\pi}\right) - \frac{\pi K'}{12K}\tag{2}$$ De nuevo sustituyendo $q$ por $q^{2}$ obtenemos \begin{align} a(q^{4}) &= -\frac{1}{6}\log\left(\frac{1 - k'}{1 + k'}\right) - \frac{1}{12}\log\left(\frac{4k'}{(1 + k')^{2}}\right) - \frac{\log 2}{6} - \frac{1}{2}\log\left(\frac{K(1 + k')}{2\pi}\right) - \frac{\pi K'}{6K}\notag\\ &= -\frac{1}{3}\log\left(\frac{k}{1 + k'}\right) - \frac{1}{12}\log\left(\frac{4k'}{(1 + k')^{2}}\right) - \frac{\log 2}{6} - \frac{1}{2}\log\left(\frac{K(1 + k')}{2\pi}\right) - \frac{\pi K'}{6K}\notag\\ &= -\frac{1}{12}\log(4k^{4}k') - \frac{\log 2}{6} - \frac{1}{2}\log\left(\frac{K}{2\pi}\right) - \frac{\pi K'}{6K}\notag\\ &= -\frac{1}{12}\log(k^{4}k') + \frac{\log 2}{6} - \frac{1}{2}\log\left(\frac{K}{\pi}\right) - \frac{\pi K'}{6K}\notag \end{align} para que $$a(q^{4}) = -\frac{1}{12}\log(k^{4}k') + \frac{\log 2}{6} - \frac{1}{2}\log\left(\frac{K}{\pi}\right) - \frac{\pi K'}{6K}\tag{3}$$ Ahora es el momento de hacer algo de álgebra. Pongamos $q = e^{-\pi}$ para que $k = k' = 2^{-1/2}$ y $K' = K$ . Entonces obtenemos $$a(q) = -\frac{\log 2}{8} - \frac{1}{2}\log\left(\frac{K}{\pi}\right) - \frac{\pi}{24}$$ y $$a(q^{2}) = -\frac{1}{2}\log\left(\frac{K}{\pi}\right) - \frac{\pi}{12}$$ y $$a(q^{4}) = \frac{3\log 2}{8} - \frac{1}{2}\log\left(\frac{K}{\pi}\right) - \frac{\pi}{6}$$ por lo que obtenemos $$72a(q) - 96a(q^{2}) + 24a(q^{4}) = -3\pi + 8\pi - 4\pi = \pi$$ Obsérvese que los otros términos se cancelan muy bien.
Nota : La derivación anterior requiere algunos conocimientos sobre las integrales elípticas y su conexión con las funciones theta. La técnica de pasar de $q$ a $q^{2}$ es la famosa Transformación de Landen. El material relacionado con estas bonitas teorías se presenta en mi blog y el lector interesado puede buscar integral elíptica, funciones theta y Landen en el página de archivos .