Su matriz reducida es correcta. Primero hay que caracterizar el conjunto de vectores $x$ que satisfagan $A x = 0$ . Este conjunto se denomina espacio nulo o núcleo, y utilizo la notación estándar $\ker A$ .
El proceso de reducción anterior corresponde a la premultiplicación de $A$ por una matriz invertible $G$ tal que $G A = \tilde{A}$ , donde $\tilde{A}$ es la matriz reducida anterior. Dado que $G$ es invertible, se tiene $Ax = 0 $ si $\tilde{A}x = 0$ o en otras palabras, $\ker A = \ker \tilde{A}$ . Así que podemos centrarnos en encontrar $\ker \tilde{A}$ ya que la matriz tiene una forma más agradable.
Supongamos que $ \tilde{A}\pmatrix{x_1 \\ x_2 \\ x_3 \\ x_4 \\ x_5} = 0$ . Entonces puedes ver inmediatamente que debemos tener $x_5 = 0$ . La tercera fila no nos dice nada. Y las dos primeras filas se pueden reescribir como $\pmatrix{ 1 && 2 \\ 0 && 1} \pmatrix{x_1 \\ x_2}+\pmatrix{ -3 && 1 \\ 2 && 3} \pmatrix{x_3 \\ x_4} = 0$ . Desde $\pmatrix{ 1 && 2 \\ 0 && 1}^{-1} = \pmatrix{ 1 && -2 \\ 0 && 1}$ obtenemos $\pmatrix{x_1 \\ x_2} = \pmatrix{ 7 && 5 \\ -2 && -3} \pmatrix{x_3 \\ x_4}$ .
Esto nos dice que si seleccionamos $x_3, x_4$ entonces $x_1, x_2$ están completamente determinados. Así, $ \tilde{A}x = 0$ si $x_5 = 0$ , $x_3, x_4$ son arbitrarios, y $x_1,x_2$ dado por la fórmula anterior, o en otras palabras $\ker A = \{\pmatrix{7 x_3+5 x_4 \\ -2x_3-3 x_4 \\ x_3 \\ x_4 \\ 0} | x_3, x_4 \text{arbitrary} \}$ .
Ahora quieres encontrar una forma más cómoda de expresarlo. Observe que podemos escribir $\pmatrix{7 x_3+5 x_4 \\ -2x_3-3 x_4 \\ x_3 \\ x_4 \\ 0} = x_3 \pmatrix{7 \\ -2 \\ 1 \\ 0 \\ 0} + x_4 \pmatrix{5 \\ -3 \\ 0 \\ 1 \\ 0}$ . Así que podemos escribir $\ker A = \text{sp} \{\pmatrix{7 \\ -2 \\ 1 \\ 0 \\ 0}, \pmatrix{5 \\ -3 \\ 0 \\ 1 \\ 0} \}$ . Es decir, el espacio nulo de $A$ es el tramo de estos dos vectores.