Cuando sólo se puede evaluar razonablemente multiplicando los polinomios, has descrito lo que es prácticamente el único enfoque. Sólo hay que multiplicar, primero los factores más simples, y seguir eliminando todos los coeficientes superiores al que te interesa. En algunos casos esto es todo lo que se puede hacer, por desgracia. (O bien, utilizar un CAS para hacer el álgebra desordenado para usted).
Sin embargo, en ocasiones se puede simplificar la función generadora de forma que se puedan calcular los coeficientes por otros métodos, lo que a veces (aunque no siempre) resulta más fácil.
Tomemos tu caso como ejemplo. Los cuatro polinomios de tu producto se pueden escribir como $\displaystyle \frac{1-x^{22}}{1-x^2}$ , $\displaystyle \frac{1-x^{21}}{1-x^3}$ , $\displaystyle \frac{1-x^{21}}{1-x^7}$ y $\displaystyle \frac{1-x^{27}}{1-x^9}$ . Porque no nos importa lo que ocurra con los coeficientes de arriba $x^{20}$ podemos ignorar las potencias superiores a $x^{20}$ y tomar el producto de las funciones resultantes. Es decir, tu problema es encontrar el coeficiente de $x^{20}$ en $$g(x) = \frac{1}{(1-x^2)(1-x^3)(1-x^7)(1-x^9)}.$$
Se podría entonces utilizar fracciones parciales para descomponer el producto en la suma de funciones para las que ya se conoce una fórmula para la $n$ -ésimo coeficiente; así se obtiene la fórmula de Binet para los números de Fibonacci a partir de la función generadora $\displaystyle f(x) = \frac{x}{1-x-x^2}$ . Para este problema eso supondría mucho trabajo, quizás más que multiplicar los polinomios, pero en general esto es bastante potente. Otro método es tomar muchas derivadas, observando que el coeficiente de $x^n$ es $\frac{1}{n!}$ veces el $n$ -a derivada en $0$ Aunque en este caso espero que sea al menos tan complicado como hacer la multiplicación original.
Toda la potencia de las funciones generadoras no se expresa generalmente en la búsqueda de un solo coeficiente, sino en la forma en que permite trabajar de forma compacta con todos los coeficientes: por ejemplo, la misma función generadora $g(x)$ anterior le dará la solución (a través del coeficiente de $x^n$ ) a este problema cuando $20$ se sustituye por un número entero cualquiera $n$ .
También puede interesarle esta pregunta y sus respuestas. Si está interesado en aprender mucho más sobre la generación de funciones, la Generatingfunctionology de Wilf es el camino a seguir.