La multiplicación de las matrices regulares surge de su interpretación como transformaciones lineales. Para una matriz cuadrada se obtiene un mapa $T:V\to V$ (después de haber elegido una base para $V$ .) Dado que el dominio y el rango de $T$ son iguales, puedes componer transformaciones lineales, y esto te da la multiplicación de matrices.
Una matriz cúbica puede corresponder a un mapa lineal $V\to V\otimes V$ ou $V\otimes V\to V$ (o una serie de otras posibilidades como $V\otimes V\otimes V\to \mathbb R$ ). (Como señala Milind, este tipo de cosas se llama tensor, y las diferentes posibilidades corresponden a una colocación diferente de los índices hacia arriba o hacia abajo en el tensor, $t^i_{jk}, t^{ij}_k, t_{ijk}$ etc.
Un $n\times 1$ puede representar un mapa de $V$ a $\mathbb R$ . Así que si piensas en la matriz 3D como un mapa de $V\otimes V\to V$ , entonces puedes componerlo con el mapa $V\to\mathbb R$ . El mapa resultante es un mapa $V\otimes V\to \mathbb R$ que se puede considerar como un $n\times n$ matriz.