$\def\FF{\mathbb{F}}\def\PP{\mathbb{P}}$Puedo lograr el límite $\binom{n-1}{2}$ si $n=q+1$ para un primo $q$.
Esquema del método: Supongamos que $X$ es un conjunto de tamaño $n$ y $G$ es un grupo que actúa en $X$ de manera marcadamente triple transitiva. Esto significa que, si $(x_1, x_2, x_3)$ y $(y_1, y_2, y_3)$ son dos tripletas ordenadas de elementos distintos de $G$, hay precisamente un $g \in G$ con $g(x_i)=y_i$ para $i=1$, $2$, $3. (Entonces, en particular, tenemos $|G| = n(n-1)(n-2)$.) Supongamos además que hay un elemento $\gamma$ en $G$ que actúa con un ciclo de tamaño $n$ en $X$, y $\gamma$ es conjugado a $\gamma^{-1}$.
Luego afirmo que $n$ es alcanzable. Sea $C \subset G$ la clase de conjugación de $\gamma$. Notamos que las únicas permutaciones en $S_n$ que conmutan con un ciclo de tamaño $n$ son potencias de ese ciclo de tamaño $n$, por lo que $Z(\gamma) = \langle \gamma \rangle$ y el tamaño de la clase de conjugación $C$ es $|G|/|Z(\gamma)| = n(n-1)(n-2)/n=(n-1)(n-2)$.
Afirmo que, para cualquier elementos distintos $y_1$, $y_2$, $y_3$ en $X$, hay un único $\delta \in C$ con $\delta(y_1) = y_2$ y $\delta(y_2) = y_3$. Primero vemos que hay al menos un $\delta$: Fijemos $x-1 \in X$, definamos $x_2 = \gamma(x_1)$ y $x_3 = \gamma(x_2)$, y sea $h \in G$ tal que $h(x_i) = y_i$. Entonces $\delta = h \gamma h^{-1}$ hace el trabajo. Pero $|C| = (n-1)(n-2)$ y cada $\delta \in C$ da lugar a $n$ tripletes $(y_1, y_2, y_3)$ con $\delta(y_1) = y_2$, $\delta(y_2) = y_3$. Así que si cada triplete ocurre a lo sumo una vez, entonces cada triplete ocurre exactamente una vez.
Hemos demostrado que los elementos de $C$ son $(n-1)(n-2)$ ciclos orientados de tamaño $n$, con cada $y_1 \to y_2 \to y_3$ ocurriendo exactamente una vez. Pero también, asumimos que $\gamma$ es conjugado a $\gamma^{-1}$, así que para cada ciclo en $C$, su inverso también está en $C$. Identificando estos, obtenemos $\binom{n-1}{2}$ ciclos no orientados, donde para cada $y_2$, y cada par de vecinos $y_1$, $y_3$, hay exactamente un ciclo donde ocurren.
Detalles Tomemos $X = \PP^1(\FF_q)$ y $G = PGL_2(\FF_q)$ con la acción obvia. Es bien sabido que $G$ es marcadamente triple transitivo. Elige una identificación de $(\FF_q)^2$ con el campo $\FF_{q^2}$, elige un generador $\theta$ para el grupo cíclico $\FF_{q^2}^{\times}$ y deja que $\gamma \in GL_2(\FF_q)$ sea la matriz de multiplicación por $\theta$. Entonces la imagen de $\gamma$ en $PGL_2(\FF_q)$ tiene orden $q+1$. Además, en $PGL_2(\FF_q)$, cada elemento es conjugado a su inverso. Esto demuestra la afirmación. $\square$.
Zassenhaus clasificó los grupos de permutaciones marcadamente triple transitivas y, para todos ellos, $|X|=q+1$ para un primo $q$. Por lo tanto, no hay otros valores de $n$ alcanzables de esta manera.