De $(a_i - a_j)^2 = a_i^2 - 2 a_i a_j + a_j^2$, estoy bastante seguro de que quieres $2A - 2B$. Pero tus $A$ y $B$ dan $2A - 2B = 41 \binom{40}{20} - 2^{40}$, lo cual tampoco es la respuesta dada, por lo que debe haber error(es) en tus $A$ y/o $B$. Cuando calculo $A$, obtengo $10 \binom{40}{20}$ y cuando calculo $B$, obtengo el mismo valor que tienes. Esto sugiere un error de factor $2$ en tu cálculo de $A$. Calculo: $$\begin{align} A &= \sum_{i=0}^{20} \sum_{j=i+1}^{20} a_j^2 \\ &= \frac{1}{2}\left( \sum_{i=0}^{20} \sum_{j=0}^{20} a_j^2 - \sum_{i=0}^{20} a_i^2 \right) \\ &= \frac{1}{2}\left( 21 \binom{40}{20} - \binom{40}{20}\right) & &\text{(contra. tu $41 \dots$) }\\ &= 10 \binom{40}{20}, \end{align}$$ obteniendo la discrepancia esperada de factor $2$.
Con este nuevo $A$ y el antiguo $B$, tenemos $$\begin{align} \sum_{i=0}^{20} \sum_{j=i+1}^{20} (a_i - a_j)^2 &= 2A - 2B \\ &= 20 \binom{40}{20} - \left( 2^{40} - \binom{40}{20} \right) \\ &= 21 \binom{40}{20} - 2^{40}. \end{align}$$
La respuesta dada es más de $10$ veces mayor que esto, así que tengo dudas sobre su corrección.
Además: Comprobando numéricamente: $$ \begin{align} \sum_{i=0}^{20} \sum_{j=i+1}^{20} (a_i - a_j)^2 &= 1\,795\,265\,477\,444. \\ 21 \binom{40}{20} - 2^{40} &= 1\,795\,265\,477\,444. \\ 41 \binom{41}{20} - 2^{40} &= 9\,934\,774\,798\,244. \\ 41 \binom{42}{20} - 2^{40} &= 19\,965\,944\,276\,444. \end{align}$$