El problema que intentas resolver no está claramente expuesto, pero lo que está claro es que tienes alguna dificultad con la división de polinomios, o (más probablemente) simplemente piense en que tú eres. Lo que probablemente ocurrió es algo que le pasa a todo el mundo, un desliz con las señales.
Haremos una división polinómica ordinaria. Para iniciar el proceso de división, imita la división escolar. El polinomio $x^3+x^2+x+1$ "entra" $x^5+x^4+x^3-x^2-x+1$ ¿cuántas púas? Claramente $x^2$ veces. Así que multiplica $x^3+x^2+x+1$ por $x^2$ , restar de $x^5+x^4+x^3-x^2-x+1$ . El resto bruto que obtenemos es $-2x^2-x+1$ . Como estamos trabajando sobre el $3$ se puede reescribir de varias maneras. Lo más sensato es sustituir el $-2$ por $1$ obteniendo un remanente $x^2-x+1$ o $x^2+2x+1$ .
Si los negativos te dan problemas, puedes empezar por sustituir $x^5+x^4+x^3-x^2-x+1$ por $x^5+x^4+x^3+2x^2+2x+1$ .
De todos modos, tenemos el cociente $x^2$ , resto $x^2-x+1$ . Continuar el proceso del algoritmo euclidiano dividiendo $x^3+x^2+x+1$ por $x^2-x+1$ . Debería obtener el cociente $x+2$ (o $x-1$ ), siguen siendo alguna versión de $2x-1$ . Continúa.