¿Ha intentado realizar un cambio de variables $y=nx$ ?
Se obtendrá una serie que es función de $\phi$ . Entonces se trata de utilizar esa función $\phi\in C^{\infty}_c({\mathbb R})$ . (Aunque puede que no sea el mejor enfoque).
Podríamos utilizar una expansión en serie de Fourier para $f$ ¿verdad? En este caso, $c_0=0$ donde $c_k=\frac{1}{\pi}\int_{-\pi}^{\pi} f(t) dt.$ Puede que funcione, y es válido para todos $t\in {\mathbb R}$ .
No olvidemos que, en este caso, para cualquier $p>0$ tenemos
$$\sum |k|^p |c_k|^2 < \infty.$$
Creo que realizar la integración por partes $p+1$ veces se logra obtener una función $F(x)$ que satisface lo mismo que $f$ y la solución es la siguiente. Por lo tanto, el factor $n^p$ ya no es un problema (usando ese $\phi$ es de soporte compacto, por supuesto).
Simplemente, para $p$ fijada, se reduce al caso en el que $p=0$ que hemos observado no presenta ningún problema.
Podemos suponer wlog que $\phi(x)$ tiene su soporte contenido en un intervalo abierto dentro de $[-\pi, \pi]$ (simplemente, elija $N\in {\mathbb N}$ lo suficientemente grande y tomar $f$ para ser $2\pi N$ -periódico).
Ahora, escribe $$f(x)=\sum_{0\neq k\in {\mathbb Z}} c_k e^{ikt}.$$ La integral deseada es de la forma
$$\int_{-\pi}^{\pi} \sum c_k e^{ikt} \phi(x)\ dx.$$
Ahora, concentrémonos en la integral individual
$$\int_{-\pi}^{\pi} e^{iknt} \phi(x) \ dx,$$
y realizar $p+1$ veces la integración por partes. Utilizar que $\phi^{(m)}(\pi)=\phi^{(m)}(-\pi)=0$ para todos $m\geq 0$ (por construcción), y no hay división por cero. Se obtiene un denominador de la forma $(nk)^{p+1}$ y se obtiene el resultado deseado.
La suma está perfectamente bien, por lo anterior.
Para demostrar la convergencia en el espacio de las distribuciones templadas, se integra por partes entre $2\pi m$ y $2\pi m$ para m suficientemente grande, y podrá utilizar la topología en $S({\mathbb R})$ con los términos que aparecen (hasta $p$ derivados de $\phi$ ).