Ya ha encontrado que: $\forall \ n, a_n+b_n+c_n=1$
Sin pérdida de generalidad, supongamos que: $a_{n}\leq b_{n}\leq c_{n}$. Entonces:
$a_{n+1}=a_{n}^{2}+2b_{n}c_{n}=a_{n}^{2}+b_{n}c_{n}+b_{n}c_{n}\leq a_{n}c_{n}+b_{n}c_{n}+c_{n}c_{n}=c_{n}(a_{n}+b_{n}+c_{n})=c_{n}$.
Del mismo modo,
$b_{n+1}=b_{n}^{2}+2a_{n}c_{n}\leq b_{n}c_{n}+a_{n}c_{n}+c_{n}^{2}=c_{n}(a_{n}+b_{n}+c_{n})=c_{n}$
Y, $c_{n+1}=c_{n}^{2}+2a_{n}b_{n}\leq c_{n}^{2}+a_{n}c_{n}+a_{n}b_{n}=c_{n}$.
Así: $\max{\{a_{n+1},b_{n+1},c_{n+1}\}}\leq c_{n}$
Habíamos supuesto que $a_{n}$ $c_{n}$ fueron delimitadas anteriormente por $b_{n}$ o $b_{n}$ $c_{n}$ fueron delimitadas anteriormente por $a_{n}$ nos habría conseguido respectivamente:
$\max{\{a_{n+1},b_{n+1},c_{n+1}\}}\leq b_{n}$ o $\max{\{a_{n+1},b_{n+1},c_{n+1}\}}\leq a_{n}$
Así que, finalmente:
$\max{\{a_{n+1},b_{n+1},c_{n+1}\}}\leq \max{\{a_{n},b_{n},c_{n}\}}$
Un argumento similar puede ser utilizado para el menor plazo:
suponiendo de nuevo que: $a_{n}\leq b_{n}\leq c_{n}$, tenemos:
$a_{n+1}=a_{n}^{2}+2b_{n}c_{n}\geq a_{n}^{2}+b_{n}a_{n}+c_{n}a_{n}= a_{n}$ y así sucesivamente.
Así que conculde que el mayor $n$-ésimo término se forma una monótona disminución de la secuencia que está delimitada por debajo, mientras que el más pequeño de $n$-ésimo término formas un aumento de la secuencia delimitada por encima.
Esta respuesta está en el enlace de abajo donde van más allá para encontrar el límite de cada secuencia.
Fuente:
Este problema es de Putnam de la Competencia de 1947
https://mks.mff.cuni.cz/kalva/putnam/psoln/psol475.html