En
Newman, Morris; Shanks, Daniel; Williams, H. C., Simple grupos de la plaza de orden y una secuencia interesante de los números primos, Acta Arith. 38, 129-140 (1980). ZBL0365.20025.
está demostrado que $\operatorname{PSp}(4,p)$ ha pedido un cuadrado perfecto si $p$ es un primer que aparece en la secuencia definida recursivamente por $a_1=1$, $a_2=7$ e $a_n=6a_{n-1}-a_{n-2}$ (ver esta entrada en OEIS). Los autores conjeturan que hay infinitamente muchos primos, y el estado que no conocen otros ejemplos de finitos simples grupos de la plaza de la orden.
Las primeras dos números primos son 7 y 41, por lo $\operatorname{PSp}(4,41)$ es otro grupo simple finito cuyo orden es un cuadrado. (Según mis cálculos el orden es $81898320^2\sim 6.7\times 10^{15}$.