Usted puede utilizar programación dinámica. El primer paso es encontrar el número de cadenas de caracteres sin modificaciones por la reversión. Considere la posibilidad de la expresión
$$ (r+g+b)^5 = b^5+5 b^4 g+5 b^4 r+10 b^3 g^2+20 b^3 g r+10 b^3 r^2+10 b^2 g^3+30 b^2 g^2 r+30 b^2 g r^2+10 b^2 r^3+5 b g^4+20 b g^3 r+30 b g^2 r^2+20 b g r^3+5 b r^4+g^5+5 g^4 r+10 g^3 r^2+10 g^2 r^3+5 g r^4+r^5. $$
Lo que quiero es que la suma de los coeficientes de $r^ig^jb^k$ donde $i \leq 5$, $j \leq 4$, $b \leq 3$. Al hacer el cálculo, no hay necesidad de seguir la pista de monomials que viola esta restricción, y esto conduce a la dinámica de la solución de programación, que es un poco más eficiente de la versión de la generación de series de acercamiento. (No voy a dar los detalles de la programación dinámica, dejando a usted.)
Con el fin de contar el número de cadenas de caracteres de hasta reversión, se contará el número de simétrica soluciones (es decir, cadenas cuyo reverso es el mismo que el original de la cadena). Aquí es por qué. Supongamos que $A$ es el número de cadenas, $B$ el número de simétrica cadenas, y $C$ el número de cadenas hasta la reversión. Entonces
$$ C = \frac{A+B}{2}. $$
(Averiguar por qué en su cuenta.)
¿Cómo podemos contar el número de soluciones simétricas? Utilizando la misma dinámica de programación / generación de la función de enfoque:
$$ (r^2+g^2+b^2)^2(r+g+b) = b^5+b^4 g+b^4 r+2 b^3 g^2+2 b^3 r^2+2 b^2 g^3+2 b^2 g^2 r+2 b^2 g r^2+2 b^2 r^3+b g^4+2 b g^2 r^2+b r^4+g^5+g^4 r+2 g^3 r^2+2 g^2 r^3+g r^4+r^5. $$
De nuevo, tenemos la suma de los coeficientes de monomials $r^ig^jb^k$ con las mismas restricciones que la anterior, y usando programación dinámica, se puede obtener un poco más eficiente solución.