Me gustaría añadir una interpretación geométrica para tener un poco más de intuición. Primero, trataré de establecer el paisaje visual, luego describiré cómo se relaciona con el problema. Luego discutiré rápidamente por qué el truco determinante funciona en este contexto.
El visual
Su $x$ , $y$ y $z$ representan las coordenadas de un punto en el espacio tridimensional. Los coeficientes del sistema de ecuaciones se traducen en la matriz que aparece en otras respuestas, que representa una transformación lineal particular.
Visualmente, me gusta pensar que las transformaciones lineales se mueven y/o estiran los ejes de su sistema de coordenadas ( sin doblarlos ). Normalmente, pensamos en una cuadrícula con tres ejes perpendiculares, todos con marcas de garrapatas de longitud unitaria, pero ¿quién dice que tienen que ser perpendiculares, y por qué las marcas de garrapatas no pueden ser más largas o más cortas que una?
Por ejemplo, imagina una cuadrícula básica de 2d (es un poco más fácil de visualizar en 2 dimensiones). Ahora rota el eje x en sentido contrario a las agujas del reloj unos 20 grados, y deja que todas las líneas horizontales que estaban paralelas al eje x se desplacen con él para que se mantengan paralelas al final de la transformación. Esta es una simple transformación lineal del espacio 2d. Las intersecciones de las líneas de la cuadrícula son puntos, y los puntos se desplazaron a medida que las intersecciones se movían. Así es como el cambio de los ejes puede describir el movimiento de los puntos en un espacio, o el mapeo de puntos a puntos. (También es por eso que las matrices se utilizan para un cambio de base).
Todos los puntos se mueven de tal manera que un montón de puntos uniformemente espaciados en una línea recta siguen estando uniformemente espaciados en una línea recta después de la transformación. La línea puede tener un ángulo diferente y los puntos pueden estar espaciados en la línea de manera diferente, pero sigue siendo una línea uniforme (de ahí el término "lineal" para describir la transformación).
Sigo diciendo "punto" cuando técnicamente me refiero a "vector". En lugar de puntos, son realmente vectores de posición, que puedes visualizar como una flecha que comienza en el origen con la punta de la flecha en el punto. Cuando digo vector, es muy probable que me esté refiriendo a eso.
La explicación
Las transformaciones lineales también pueden comprimir los espacios en dimensiones más bajas. Pueden transformar planos en líneas, o espacio 3d en un plano, o espacio 3d en una línea. Por ejemplo, visualiza la rotación de los ejes X e Y hasta que se superpongan completamente. Acabas de empujar todos los puntos del plano en una sola línea. Obviamente, se ha perdido algo de información.
Digamos que tienes una matriz $A$ que corresponde a una transformación lineal que comprime el espacio tridimensional en un plano particular (la matriz $A$ en la respuesta de Mateus Rocha y otras, que corresponde al sistema de ecuaciones, es tal matriz). Además, tienes un vector $b$ que corresponde a un punto particular en el espacio tridimensional que no está en ese plano (en su sistema, las componentes de ese vector son el lado derecho de la ecuación, el vector $b$ en la respuesta de EGREG).
Cuando tienes la ecuación $Ax = b$ te estás preguntando: ¿qué vector, al ser transformado bajo la transformación lineal $A$ me da el vector $b$ ? ¿Qué punto se mueve al punto descrito por el vector $b$ cuando muevo todos los puntos como se describe en la matriz $A$ ?
Sin embargo, $A$ mapea todos los puntos en el espacio tridimensional a un plano y $b$ no está en ese avión. Entonces, ¿a qué vector se le asigna $b$ bajo $A$ ? ¡Ninguno! Por lo tanto, la ecuación no tiene solución.
Visualmente, esa es la característica principal del sistema que determina si tiene una solución.
Nota: si el vector $b$ está en el plano (o línea, o cualquier otra dimensión inferior a la que su espacio dimensional superior sea mapeado), entonces hay soluciones. Infinitamente muchas, de hecho, porque estás comprimiendo infinitamente muchos puntos en esa dimensión inferior.
El determinante
El determinante de una matriz corresponde al área de los paralelogramos formados por los cuadrados transformados de los nuevos ejes. Así que en el sistema de coordenadas original, tenemos una cuadrícula de un montón de cuadrados con área 1. Los nuevos ejes transforman esos cuadrados en paralelogramos, y el área de uno de ellos es el determinante de la matriz que describe esa transformación.
(En 3d, estamos viendo el volumen de un paralelepípedo, el equivalente en 3d. En n dimensiones, estamos viendo el volumen de n dimensiones de un paralelotopo de n dimensiones).
Si el determinante es $0$ que indica que hemos comprimido el espacio en una dimensión inferior. En el caso 2d, si la transformación mapea cada punto del plano a una línea, el área del paralelogramo formado por las nuevas líneas de la cuadrícula es $0$ porque no hay un paralelogramo. Sólo una línea.
Es por eso que el ser determinante $0$ es un buen control para ver si el sistema puede no tener solución. Si es $0$ has comprimido tu espacio, y terminas con los escenarios que discutimos anteriormente.
Espero que esta respuesta sea clara y contribuya a la discusión. Personalmente, esto es lo que hizo que el álgebra lineal hiciera clic para mí. Para más información sobre esta perspectiva, recomiendo revisar la serie de youtube de 3blue1brown sobre álgebra lineal. Puedes ver las visualizaciones de las que hablo animadas delante de ti.