Si $A,B$ son invertibles, descomponerlos como $\det(A)^{1/n} \bar A$ donde $\bar A$ tiene un determinante $1$ y definir $A \star B = (\det A + \det B)^{1/n}\bar A \bar B$ . Para $A$ singular, $B$ definir invertible $A \star B = B \star A = B.$ Cuando ambos son singulares definen $A \star B = 0$ .
No es bonito. Probablemente ni siquiera sea asociativo.
En realidad, esto es demasiado complicado: basta con definir $A \star B = {\rm diag}( x, 1, 1, \ldots, 1)$ donde $x=\det A + \det B$ . Este es asociativo, pero es trivializar la cuestión: se puede escribir esta operación como $+ \circ d$ donde $d(A) = {\rm diag}(\det A, 1 \ldots).$ Por lo tanto, lo que se hace esencialmente es tomar primero el determinante e identificar este espacio unidimensional de matrices con los reales, de modo que el homomorfismo que deseamos es realmente el mapa de identidad en $\mathbb R$ .
¿Existe una significativo operación con esta propiedad? Lo dudo.