Esa es una buena pregunta que no es obvia (al menos en mi mente). Por suerte, no es muy difícil mostrar algo aún más fuerte:
$$\sum_{s=2}^\infty \sum_{p\in\mathbb{P}}\frac{1}{sp^s}<\sum_{s=2}^\infty \sum_{p\in\mathbb{P}}\frac{1}{p^s}<\sum_{s=2}^\infty \sum_{n=2}^\infty \frac{1}{n^s}$$
Dado que estos términos son todos positivos, si la serie converge debe converger absolutamente. Por lo tanto, somos libres de cambiar el orden de las sumas sin afectar a la convergencia o divergencia global. Entonces
$$=\sum_{n=2}^\infty \sum_{s=2}^\infty \frac{1}{n^s}=\sum_{n=2}^\infty \frac{1}{n(n-1)}=1$$
Concluimos que la serie global está acotada y por tanto converge.