Yo en su lugar trató de construcción $(ab)^6+(ab)^4+(ab)^3-(ab)^2-1=0$ $\,\ldots$
Siguiendo OP enfoque, vamos a $\,ab=p\,$ y, por simetría, $\,a+b=s\,$. Para empezar:
$$
\begin{cases}
\begin{align}
a^4 + a^3 - 1 &= 0 \\
b^4 + b^3 - 1 &= 0
\end{align}
\end{casos} \etiqueta{1}
$$
Restando las dos ecuaciones en $\,(1)\,$, y el uso de ese $\,a \ne b\,$:
$$\requieren{cancel}
\begin{align}
a^4-b^4+a^3-b^3 = 0 \;\;&\implies\;\; \cancel{(a-b)}(a+b)(a^2+b^2) + \cancel{(a-b)}(a^2+ab+b^2) = 0 \\
&\implies\;\; s(s^2-2p) + s^2 - p = 0 \\
&\implies\;\; s^3 + s^2 - (2s+1)p = 0 \tag{2}
\end{align}
$$
Sumando las dos ecuaciones en $\,(1)\,$:
$$
\begin{align}
a^4+b^4+a^3+b^3 - 2 = 0 \;\;&\implies\;\; \big((a+b)^4 - 4ab(a^2+b^2)-6a^2b^2\big) \\
&\quad\quad\quad\quad+\big((a+b)^3-3ab(a+b)\big)-2=0 \\
&\implies\;\; s^4 - 4p(s^2-2p)-6p^2+s^3-3ps-2 = 0 \\
&\implies\;\; s^4 + s^3 -4ps^2-3ps+2p^2-2=0 \tag{3}
\end{align}
$$
En este punto, la ecuación satisfecho por $\,p\,$ pueden ser derivados por la eliminación de $\,s\,$$\,(2)\,$$\,(3)\,$. Esto generalmente es mejor dejar en manos de un CAS, puesto que los cálculos puede ser tedioso, y, por ejemplo, WA da resultante[$s^3 + s^2 - (2s+1)p$, $s^4 + s^3 - 4ps^2 - 3ps + 2p^2 - 2, s$] = $8 (p^6 + p^4 + p^3 - p^2 - 1)$.
Todavía se puede hacer a mano, aunque. Sustituyendo $\,s^4+s^3=s \cdot (2s+1)p\,$ $\,(2)\,$ a $\,(3)\,$:
$$
\begin{align}
s(2s+1)p -4ps^2-3ps+2p^2-2=0 \;\;&\implies\;\; -2ps^2 - 2ps+ 2p^2 - 2 = 0 \\
&\implies\;\; ps^2+ps-p^2+1 = 0 \tag{4}
\end{align}
$$
Eliminar una vez más, $\,s(s+1)\,$ $\,(2)\,$ $\,(4)\,$ $\,s \cdot (4) - p \cdot (2)\,$ le da:
$$
\begin{align}
0 &= s \cdot \big(\cancel{ps(s+1)}-p^2+1\big) - p \cdot \big(\cancel{s^2(s+1)} - (2s+1)p\big) = (p^2+1)s+p^2 \tag{5}
\end{align}
$$
Entonces, sustituyendo $\,s = \frac{-p^2}{p^2+1}\,$ $\,(4)\,$ da en el final de la sextic $\,p^6 + p^4 + p^3 - p^2 - 1 = 0\,$.