Desafortunadamente, parece que la afirmación es falsa. Mi contraejemplo es $n=16843^2$. Tenga en cuenta que $16843$ es un primo Wolstenholme. Por lo tanto, establezca $p=16843$ (para que nuestro contraejemplo sea $n=p^2$).
Aquí está la "prueba" de mi contraejemplo, que parece ser demasiado grande para calcular directamente (hizo colapsar el programa Sage y Wolfram no lo entendió directamente, por lo que se necesitaba más trabajo).
Tenga en cuenta que es suficiente demostrar $$\binom{p^4}{p^2}\equiv p^2\pmod{p^8}.$$ Por CAMO 2020/2, dado que $p=16843>3$, entonces tenemos $$\binom{p^4}{p^2}\equiv \binom{p^3}p\pmod{p^9}$$ lo cual, por supuesto, es lo suficientemente fuerte como para decirnos que $$\binom{p^4}{p^2}\equiv \binom{p^3}p\pmod{p^8}.$$
Ahora, Wolfram Alpha calcula $$\binom{p^3}{p}-p^2\equiv 0\pmod{p^8},$$ lo cual implica que $$\binom{p^4}{p^2}\equiv p^2\pmod{p^8},$$ lo que demuestra que el contraejemplo $n=p^2$ funciona.
Nota: Con suficiente trabajo, creo que es posible demostrar sin usar ayuda de computadora que $n=p^2$ es un contraejemplo si y solo si $p$ es un primo Wolstenholme.
EDITAR: He descubierto una prueba de que todos los $n=p^2$ para $p$ un primo Wolstenholme son contraejemplos. Siga la solución publicada por TheUltimate123 aquí, y modifique el lema de congruencia factorial en caída para que sea válido modulo $p^{k+3}$. La prueba funciona exactamente igual excepto por dos cambios: Primero, demostramos el lema solo para $i=0$, ya que el $n$ en el problema es igual a 1 (como en $\binom{p^3}{p\cdot 1}$). Además, usamos el hecho de que $p$ es un primo Wolstenholme para notar que $$\sum_{j=1}^{p-1} \frac1j\equiv 0\pmod{p^3},$$ para que el lema pueda ser válido modulo $p^{k+3}$.
Esto nos da el siguiente lema: para primos Wolstenholme $p$, $$\binom{p^k}{p}\equiv p^{k-1}\pmod{p^{2k+2}}.$$
Ahora, para terminar, observe que $$\binom{p^4}{p^2}\equiv\binom{p^3}p\pmod{p^{2\cdot 4+1}}$$ y $$\binom{p^3}{p}\equiv p^2\pmod{p^{2\cdot 3+2}}$$ lo cual combinado implica que para todos los primos Wolstenholme $p$, $$\binom{p^4}{p^2}\equiv p^2\pmod{p^8}.$$
Otro interesante (borrar si no es relevante): CAMO 2020/2 nos dice que todos los primos $p>3$ satisfacen $$\binom{p^2}p\equiv p\pmod{p^5},$$ por lo que quizás una mejor pregunta sería: ¿Es verdad que para todos los números naturales $n>3$, $$\binom{n^2}n\equiv n\pmod{n^5}\iff n\in\mathbb P?$$ Tenga en cuenta que en este caso $n=16843^2$ no es un contraejemplo (Wolfram Alpha confirma que la congruencia ni siquiera se cumple modulo $16843^9$)...