Creo que la clave es pensar en términos de puntos fijos y de los ciclos. Quieres un $F$ bien de que trata la $\{1,-1,\sqrt{2},-\sqrt{2}\}$ como puntos fijos o como partes de dos ciclos. Su implicación $\implies$ es en realidad un camino de dos implicación $\iff$. Así que si usted puede encontrar un polinomio cúbico que corrige estos cuatro puntos o les lleva a través de una de dos ciclos, usted tiene por ejemplo un $F$.
Hay $10$ permutaciones de $\{1,-1,\sqrt{2},-\sqrt{2}\}$ que sólo implican puntos fijos y dos ciclos. Para cada uno, podemos escribir el correspondiente sistema de cuatro ecuaciones lineales en $F$s de los coeficientes. Cada sistema tiene la misma matriz de coeficientes, pero de diferentes constantes de vectores. Por ejemplo, el sistema correspondiente a $(1\leftrightarrow\sqrt{2},-1\leftrightarrow-\sqrt{2})$ es
$$\begin{aligned}
A+B+C+D&=\sqrt{2}\\
-A+B-C+D&=-\sqrt{2}\\
2\sqrt{2}A+2B+\sqrt{2}C+D&=1\\
-2\sqrt{2}A+2B-\sqrt{2}C+D&=-1\\
\end{aligned}$$
O en la forma de la matriz, es
$$\begin{aligned}
\begin{bmatrix}
1&1&1&1\\
-1&1&-1&1\\
2\sqrt{2}&2&\sqrt{2}&1\\
-2\sqrt{2}&2&-\sqrt{2}&1\\
\end{bmatrix}
\begin{bmatrix}A\\B\\C\\D
\end{bmatrix}
y=\begin{bmatrix}\sqrt{2}\\-\sqrt{2}\\1\\-1\end{bmatrix}\\
M
\begin{bmatrix}A\\B\\C\\D
\end{bmatrix}
y=\begin{bmatrix}\sqrt{2}\\-\sqrt{2}\\1\\-1\end{bmatrix}\\
\end{aligned}$$
y $M$ es el mismo para cada permutación. Vale la pena nuestro esfuerzo, a continuación, para calcular $$M^{-1}=\begin{bmatrix}
-1/2&1/2 &\sqrt{2}/4&-\sqrt{2}/4\\
-1/2&-1/2&1/2&1/2\\
1&-1&-\sqrt{2}/4&\sqrt{2}/4\\
1&1&-1/2&-1/2
\end{bmatrix}$$
Y así
$$\begin{aligned}
\begin{bmatrix}A\\B\\C\\D
\end{bmatrix}
y=\begin{bmatrix}
-1/2&1/2 &\sqrt{2}/4&-\sqrt{2}/4\\
-1/2&-1/2&1/2&1/2\\
1&-1&-\sqrt{2}/4&\sqrt{2}/4\\
1&1&-1/2&-1/2
\end{bmatrix}
\begin{bmatrix}\sqrt{2}\\-\sqrt{2}\\1\\-1\end{bmatrix}\\
y=\begin{bmatrix}-\sqrt{2}/2\\0\\3\sqrt{2}/2\\0
\end{bmatrix}
\end{aligned}$$
Si esto es cierto, entonces el $F(x)={-\frac{\sqrt{2}}{2}}x^3+\frac{3\sqrt{2}}{2}x$ obras. Así, un CAS confirma que $F(F(x))-x$ factores $1/4 (x-1) x (x+1) (x^2-2) (x^4-6 x^2+7)$.
Usted puede obtener más soluciones para $F$ el uso de otras permutaciones en $\{1,-1,\sqrt{2},-\sqrt{2}\}$ que sólo implican puntos fijos y dos ciclos. Sin embargo, algunos de estos se llevan a $0$$A$, y no dar bastante cúbico $F$. Por ejemplo, la permutación identidad conduce a $F(x)=x$ $(1\leftrightarrow-1,\sqrt{2}\leftrightarrow-\sqrt{2})$ conduce a $F(x)=-x$.
Hay 10 permutaciones en $S_4$ puntos fijos y dos ciclos; dos de ellos sin duda conducir a degenerado "cúbicas" como se citó anteriormente. Al menos uno ha sido confirmado ahora a conducir a una verdadera cúbico $F$, y mi conjetura sería que le pasara lo mismo que para el resto de $7$. Así, este método proporciona un 8 $F$s de que el trabajo, además de dos más de los que podría contar si degenerados cúbicas están permitidos.
Creo que para encontrar todas las soluciones a este problema, podría invocar un sistema de ocho ecuaciones lineales y, a continuación, encontrar en qué condiciones, que el sistema es consistente. Nos gustaría que cada uno de $\{1,-1,\sqrt{2},-\sqrt{2}\}$ ir arbitraria de números reales $\{m,n,p,q\}$ y luego de la demanda que vienen de vuelta. (Estas ecuaciones es lineal en los coeficientes de $F$, pero no en $\{m,n,p,q\}$.)
$$\begin{aligned}
\begin{bmatrix}
1&1&1&1\\
-1&1&-1&1\\
2\sqrt{2}&2&\sqrt{2}&1\\
-2\sqrt{2}&2&-\sqrt{2}&1\\
m^3&m^2&m&1\\
n^3&n^2&n&1\\
p^3&p^2&p&1\\
q^3&q^2&q&1\\
\end{bmatrix}
\begin{bmatrix}A\\B\\C\\D
\end{bmatrix}
y=\begin{bmatrix}m\\n\\p\\q\\1\\-1\\\sqrt{2}\\-\sqrt{2}\end{bmatrix}\\
\end{aligned}$$
Usted podría continuar investigando este sistema y ver qué condiciones en $\{m,n,p,q\}$ hacer que el sistema sea consistente, y luego ver en qué conjuntos de soluciones para $\{A,B,C,D\}$ hay. Que podría ser desordenado, aunque a partir de las ecuaciones no son lineales en $\{m,n,p,q\}$.
El sistema anterior se simplifica a
$$\begin{aligned}
\begin{bmatrix}
m^3&m^2&m&1\\
n^3&n^2&n&1\\
p^3&p^2&p&1\\
q^3&q^2&q&1\\
\end{bmatrix}
\begin{bmatrix}
-1/2&1/2 &\sqrt{2}/4&-\sqrt{2}/4\\
-1/2&-1/2&1/2&1/2\\
1&-1&-\sqrt{2}/4&\sqrt{2}/4\\
1&1&-1/2&-1/2
\end{bmatrix}
\begin{bmatrix}m\\n\\p\\q
\end{bmatrix}
y=\begin{bmatrix}1\\-1\\\sqrt{2}\\-\sqrt{2}\end{bmatrix}\\
\end{aligned}$$
$$\begin{aligned}
\begin{bmatrix}A\\B\\C\\D
\end{bmatrix}
y=\begin{bmatrix}
-1/2&1/2 &\sqrt{2}/4&-\sqrt{2}/4\\
-1/2&-1/2&1/2&1/2\\
1&-1&-\sqrt{2}/4&\sqrt{2}/4\\
1&1&-1/2&-1/2
\end{bmatrix}\begin{bmatrix}m\\n\\p\\q
\end{bmatrix}
\end{aligned}$$
Así que hay un sistema de ecuaciones de cuarto grado en $m,n,p,q$ que una vez resuelto, ofrece soluciones para $A,B,C,D$.
Tener cuatro ecuaciones polinómicas en cuatro variables $m,n,p,q$, sería de esperar que sólo un número finito de soluciones. Ya hemos representaron $10$ soluciones; es posible que no haya más. Suponiendo que estas cuatro ecuaciones tienen la correspondiente expresión algebraica de la independencia, el Teorema de Bézout dice que hay en la mayoría de los 64 soluciones complejas.