El problema es el siguiente:
$\text{Determine the coef. of } x^{10} \text{ in } (x^3 + x^5 + x^6)(x^4 + x^5 + x^7)(1+x^5+x^{10}+x^{15}+...)$
He calculado algunos $x$ 's, para obtener
$x^3(1+x^2+x^3)x^4(1+x+x^3)(1+x^5+x^{10}+x^{15}+...)$
y luego combinamos los términos factorizados para obtener
$x^7(1+x^2+x^4)(1+x+x^3)(1+x^5+x^{10}+x^{15}+...)$
Ahora no sé qué hacer; por lo general acaba siendo un factor de $(1+x+x^2+...)$ pero no parece ser el caso aquí.