Supongamos que usted ha $k$ diferentes bolas y desea contar cuántas maneras puede elegir $n$ bolas con la sustitución de tal manera que cada bola se elige menos de $\mu$ veces. Deje $x_i$ ser el número de veces que recoger el balón $i$. Entonces estamos contando el número de entero no negativo soluciones a
$$ x_1 + x_2 + ... + x_k = n $$
donde tenemos la restricción $x_i < \mu$ por cada balón. Podemos resolver esto mediante la inclusión a la exclusión. Si $S$ es el conjunto de restricciones y soluciones de $P_i$ es el subconjunto con $x_i \geq \mu$, luego tenemos
$$ \begin{array}
(| S - (P_1 \cup P_2 \cup ... \cup P_k )|
&= & |S| \;\;-\;\; \sum_i |P_i| \;\;+ \;\;\sum_{i,j} |P_i \cap P_j| \;\; - \;\; ... \\
\; &= & {n+k-1 \choose k-1} \;-\; k {n+k-1-\mu \choose k-1}
\;+\; {k \choose 2} {n+k-1-2\mu \choose k-1} \;\;-\;\; ... \\ && \\
\; &= &\sum_{i=0}^\gamma \; (-1)^i {k \choose i} {n+k-1-i\mu \choose k-1}
\end{array}
$$
Donde $\gamma = \min \{k, \lfloor \tfrac{n}{\mu} \rfloor \}$. El taponamiento en los valores de $k=10, n=5, \mu=3$ resuelve la pregunta que usted plantea.
$$ \begin{array}
( \sum_{i=0}^{1} \; (-1)^i {10 \choose i} {14-3i \choose 9} = 1452
\end{array}
$$
Me explicó todo en un post reciente resolución de un problema similar.