Quería publicar esto como comentario pero era demasiado largo.
No sé si servirá de algo, pero considera reescribir tu función de esta manera:
$$R(n) = (1 \times 11 \times 111 \times \ldots) - (1 + 11 + 111 + 1111 + \ldots)$$
$$R(n) = \left((10^0) \times (10^0 + 10^1) \times (10^0 + 10^1 + 10^2) \times \ldots\right) - \left((10^0) + (10^1 + 10^0) + (10^2 + 10^1 + 10^0) + \ldots \right)$$
Ahora con un poco de matemáticas se puede comprobar que
$$\left((10^0) \times (10^0 + 10^1) \times (10^0 + 10^1 + 10^2) \times \ldots\right) = \prod_{k = 1}^n \frac{10^k - 1}{9}$$
En cuanto a la segunda parte, es más divertida. En efecto, tenemos
$$\left((10^0) + (10^1 + 10^0) + (10^2 + 10^1 + 10^0) + \ldots \right)$$
Pero como tendemos a $n$ podemos comprobar fácilmente que habrá $n$ términos de $10^0$ , $n-1$ términos de $10^1$ , $n-2$ términos de $10^2$ y así sucesivamente, lo que significa
$$\left((10^0) + (10^1 + 10^0) + (10^2 + 10^1 + 10^0) + \ldots \right) = \sum_{k = 0}^{n-1} (n-k)10^k$$
Ahora, con un poco de ayuda (reglas de mathematica), la productora da
$$\prod_{k = 1}^n \frac{10^k - 1}{9} = 9^{-k} {Q}_p (10, 10, k)$$
Dónde ${Q}_p (10, 10, k)$ es el llamado símbolo q-Pochammer, cuya definición es
$${Q}_p (a, q, k) = \prod_{i = 0}^{k-1} (1 - aq^i)$$
Ref https://en.wikipedia.org/wiki/Q-Pochhammer_symbol
Mientras que la suma da
$$\sum_{k = 0}^{n-1} (n-k)10^k = \frac{1}{81}\left(10^{1+n} - 9n - 10\right)$$
Así, su función es
$$R(n) = 9^{-k} {Q}_p (10, 10, k) - \frac{1}{81}\left(10^{1+n} - 9n - 10\right)$$
Como he dicho, no sé si esto ayuda, pero es una buena manera de comprobar $R(n)$ bastante rápido.
Por favor, Si he cometido algún error, haz un comentario. Me gustó esta pregunta e inmediatamente me puse a buscar una forma general adecuada para $R(n)$ .