Por si sirve de algo, esta respuesta utiliza derivados, pero utiliza un método de aplicación general.
Desde $a^2+b^2+c^2=3$ cualquier variación, $(\delta a,\delta b,\delta c)$ de $(a,b,c)$ debe satisfacer $$ a\,\delta a+b\,\delta b+c\,\delta c=0\tag{1} $$ Nos interesa encontrar el máximo de $$ \log(a^3+a+1)+\log(b^3+b+1)+\log(c^3+c+1)\tag{2} $$ En un punto crítico, las variaciones de $(2)$ debe satisfacer $$ \frac{3a^2+1}{a^3+a+1}\delta a+\frac{3b^2+1}{b^3+b+1}\delta b+\frac{3c^2+1}{c^3+c+1}\delta c=0\tag{3} $$ Argumentos estándar de linealidad dicen que si $(3)$ es cierto para todos los $(\delta a,\delta b,\delta c)$ que satisfagan $(1)$ tenemos $$ \left(\frac{3a^2+1}{a^3+a+1},\frac{3b^2+1}{b^3+b+1},\frac{3c^2+1}{c^3+c+1}\right)=k(a,b,c)\tag{4} $$ Eso es, $$ \frac{3a^2+1}{a^4+a^2+a}=\frac{3b^2+1}{b^4+b^2+b}=\frac{3c^2+1}{c^4+c^2+c}\tag{5} $$ Tenga en cuenta que $$ \frac{\mathrm{d}}{\mathrm{d}x}\frac{3x^2+1}{x^4+x^2+x} =-\frac{6 x^5+4 x^3-3 x^2+2 x+1}{(x^4+x^2+x)^2}\tag{6} $$ Si $x\ge1$ entonces $6x^5+4x^3\ge3x^2$ y si $0\le x\le1$ entonces $2x+1\ge3x^2$ . Por lo tanto, para todos los $x\ge0$ , $(6)$ es negativo. Es decir, $$ \frac{3x^2+1}{x^4+x^2+x}\tag{7} $$ es monótonamente decreciente, lo que, cuando se combina con $(5)$ , dice que $$ a=b=c\tag{8} $$ $(8)$ dice que $$ (a^3+a+1)(b^3+b+1)(c^3+c+1)=27\tag{9} $$ Condición $(8)$ supone que (a,b,c) no está en el límite, es decir, ninguno está $0$ . Supongamos que $c=0$ entonces el mismo argumento arroja que $a=b=\frac12\sqrt6$ y por lo tanto $$ (a^3+a+1)(b^3+b+1)(c^3+c+1)=\frac{83}{8}+\frac52\sqrt6\tag{10} $$ Supongamos que $b=c=0$ entonces $a=\sqrt3$ y por lo tanto $$ (a^3+a+1)(b^3+b+1)(c^3+c+1)=1+4\sqrt3\tag{11} $$ Comparación de $(9)$ , $(10)$ y $(11)$ el máximo es $27$ .
2 votos
No sé cómo resolverlo, pero tal vez esto pueda ayudarte: $$ a^2 + b^2 + c^2 = 3 => abc \le 1 $$
2 votos
@daniel: $a=b=c=1$ es una solución.
3 votos
Una vía de solución sería utilizar el método de los multiplicadores de Lagrange para encontrar el máximo de la función $(a^3+a+1)(b^3+b+1)(c^3+c+1)$ y observar la del $56$ (más o menos) posibles candidatos solamente $(1,1,1)$ tiene tres coordenadas positivas.
0 votos
Cabe destacar que $x^3 + x + 1 \leq 3$ para todos $x \leq 1$ . Si $a \geq b \geq c \geq 0$ Entonces sólo tiene que preocuparse de cuándo $\sqrt{3} \geq a > 1$ (y por lo tanto $c < 1$ ). Supongo que esto es lo más difícil de manejar aquí.
2 votos
Esta desigualdad se puede resolver observando que $x \to \ln(x^{3/2}+x^{1/2}+1)$ es cóncavo para $x > 0$ y la desigualdad de Jensen. Ya que dineshdileep notó algo similar primero, no publicaré esto como respuesta. (A menos que él no edite su respuesta)
0 votos
¿Soluciones sin derivados?
0 votos
@Iuli: No se considera una buena forma de hacer ediciones menores a su pregunta simplemente para mantenerla en la primera página. Ten en cuenta que después de demasiadas ediciones, tu post se convertirá en Wiki de la Comunidad, y dejarás de obtener reputación por él.
0 votos
@Iuli: Puedes pensar en la sustitución $a=\sqrt{3}\cos \alpha$ , $b=\sqrt{3}\cos \beta$ y $c=\sqrt{3}\cos \gamma$ donde $\cos^2 \alpha+ \cos^2 \beta+ \cos^2 \gamma=1$ .