Por una combinatoria argumento, quizás también es posible a partir de la generación de la función que usted ya tiene, usted puede llegar a la siguiente fórmula de recursión.
$$A_{a,b,c}=cA_{a-1,b,c}+A_{a-1,b-1,c-1}+2(b-c)A_{a-1,b,c}+2A_{a-1,b-1,c},$$with initial values $A_{a,b,c}=0$ if $a<0$ or $b<0$ or $c<0$ or $a<b$ or $b<c$ and $A_{a,b,c}=\binom{b}{c}2^{b-c}$ if $a=b$.
La combinatoria argumento es contando el número de particiones$\lambda = \{B_i\}_{1\leq i\leq k}$ en el conjunto de colores $[a]$ $3$ colores de tal manera que en cada bloque de $B_i$ si $x\in B_i$ $x$ es de color con $0$ o $1$, ningún elemento de $B_i$ es de color con el color de la $2$. También, el número de bloques en el que cada elemento es de color por $2$$c$.
Su fórmula cuenta el número de ese tipo de particiones, dividiendo en dos el conjunto de $[a]$, los que son de color por $2$,contados a $\binom{m}{h}S_{h,k-r}$ y los que son de color por $0,1$ cuentan $2^{m-h}S_{m-h,r}$.
En la recursividad, el proceso es el mismo pero añadiendo en cada paso, un nuevo elemento. Por lo $cA_{a-1,b,c}$ es el número de maneras que usted puede poner un nuevo elemento de color por $2$ $c$ bloques que tiene, $A_{a-1,b-1,c-1}$ es crear un nuevo bloque con el nuevo elemento de color por $2$, $2(b-c)A_{a-1,b,c}$ es para poner un nuevo elemento de color por $0$ o $1$ $b-c$ bloques y $2A_{a-1,b-1,c}$ es crear una nueva clase para poner un nuevo elemento de color por $0$ o $1$.
No sé cómo venir para arriba con un cerrado la expresión, pero espero que esto ayude.