Fuente: una generalización del problema #5 de la Competencia Matemática Canadiense de 2000.
Supongamos $n\ge 2, A,B > 0$ y que los números reales $a_1,\cdots, a_n$ satisfacen $a_1\ge a_2\ge \cdots \ge a_{n} \ge 0, a_1 + a_2 \leq A$ y $a_3 + a_4+\cdots + a_n \leq B.$ Nótese que para cualquier $A,B > 0$ existe una secuencia así (podemos simplemente tomar $a_1 = A$ y el resto de los $a_i$'s como cero). Encuentra el valor máximo posible de $a_1^2+\cdots + a_n^2$, o muestra que no existe un máximo. Si el máximo existe, encuentra todas las secuencias posibles que lo alcanzan, o muestra que para algunos valores de A y B hay un número incontable de secuencias que alcanzan el máximo.
Como cota superior aproximada, tenemos que $a_1^2 + \cdots + a_n^2 \leq (a_1^2 +\cdots + a_n)^2 \leq (A+B)^2,$ por lo que el supremo de $a_1^2+\cdots + a_n^2$ sobre todas las secuencias que satisfacen las restricciones seguramente es finito. Si el conjunto $\mathcal{A}$ de secuencias $(a_i)$ que satisfacen las restricciones forma un subconjunto compacto de $\mathbb{R}^n$, entonces dado que la función $f(a_1,\cdots, a_n) = a_1^2+\cdots + a_n^2$ es continua en $\mathbb{R}^n$, alcanza un máximo en $\mathcal{A}$ mediante una generalización del Teorema del Valor Extremo para funciones de una sola variable. Pero de hecho, esto es cierto, ya que si $(x_k)$ converge a $(a_k)$ en $\mathcal{A}$ donde $x_k=(x_{k1},x_{k2},\cdots, x_{kn})$, entonces $\lim\limits_{k\to\infty} x_{kj} =a_{j}$ para todo $1\leq j\leq n$ y así, por las propiedades de límites, vemos que $a_1 = \lim\limits_{k\to\infty} x_{k1} \ge \lim\limits_{k\to\infty} x_{k2} = a_2$ y de manera similar podemos mostrar que el resto de los $a_i$'s son decrecientes. También tenemos que $a_1 + a_2\leq A $ y $a_3+a_4+\cdots + a_n\leq B$. Dado que $\mathcal{A}\subseteq [0,\max\{A,B\}]^n$ es acotado, entonces por el teorema de Heine-Borel, $\mathcal{A}$ es compacto en $\mathbb{R}^n$ (bajo la métrica euclidiana), como se requería.
Tenemos que $0\leq a_1 \leq A - a_2$ entonces $a_1^2 \leq (A-a_2)^2.$ Así que $a_1^2+\cdots + a_n^2 \leq A^2 - 2A a_2 + 2a_2^2 + a_3^2+\cdots + a_n^2.$ Sin embargo, debido a la generalización, a diferencia de la solución oficial al problema original, es posible que no tengamos que $a_1 + \cdots + a_n \leq 2A (1),$ aunque esto se cumple si $B\leq A$. Nótese que el máximo se alcanza desde arriba, pero si $B < A$, entonces $a_1^2+\cdots + a_n^2 < A^2 - (a_1+\cdots + a_n)a_2 + 2a_2^2 +a_3^2 + \cdots + a_n^2$. Supongamos que (1) se cumple y $B=A$ por ahora. Entonces $a_1^2+\cdots + a_n^2 \leq A^2 - (a_1+\cdots + a_n)a_2 + 2a_2^2 +a_3^2 + \cdots + a_n^2 = A^2 + (a_2-a_1)a_2+\cdots + (a_n-a_1)a_n \leq A^2,$ con igualdad si y solo si $a_1 = A-a_2, a_1+\cdots + a_n = 2A$ y existe algún $i\ge 1$ tal que $a_j = a_1$ para $1\leq j\leq i$ y $a_j = 0$ para $j > i$. De hecho, si se cumplen las últimas tres condiciones, tenemos igualdad, y si tenemos igualdad, entonces es fácil ver que se cumplen las dos primeras condiciones. Para ver por qué la última condición debe cumplirse, observe que si todos los $a_i$'s son positivos, entonces $(a_2-a_1)a_2+\cdots + (a_n-a_1)a_n = 0\Rightarrow a_i = a_1$ para todo i. De lo contrario, tome el menor $j$ tal que $a_j = 0$ como $i+1$. Nótese que para todos los índices mayores $k > j, a_k=0$ y para todos los índices menores $k < j, a_k > 0.$ Por lo tanto, $(a_2-a_1)a_2+\cdots + (a_j-a_1)a_j + (a_{j+1} - a_1)a_{j+1}+\cdots + (a_n-a_1)a_n = 0\Rightarrow (a_2-a_1)a_2+\cdots + (a_j-a_1)a_j = 0\Rightarrow a_k = a_1$ para $1\leq k\leq j.$ Entonces, o bien $i=1$ y $a_1 = A$ mientras que $a_i=0$ para $i>1$ o bien $i\ge 2$ y $a_1 = a_2 = A/2$. Ahora, para $B=A$ obtenemos que $a_1 = a_2 =a_3=a4= A/2$ mientras que los otros $a_i$'s son 0.
Alternativamente, creo que puede ser posible utilizar multiplicadores de Lagrange, pero preferiría un enfoque más elemental si es que existe.