Tu camino no está equivocado, por sí mismo pero podría ser mucho más eficiente. Cuantos más cálculos realices, más posibilidades tendrás de cometer un error. Efectivamente, has cometido un error. Concretamente, cuando estabas en $$\left[\begin{array}{ccc}0 & 1 & 2\\-1 & 1 & 3\\-1 & 0 & 1\end{array}\right]$$ y tomó $R_3-R_2,$ deberías haber conseguido $$\left[\begin{array}{ccc}0 & 1 & 2\\-1 & 1 & 3\\0 & -1 & -2\end{array}\right],$$ en lugar de $$\left[\begin{array}{ccc}0 & 1 & 2\\-1 & 1 & 3\\0 & -1 & 2\end{array}\right].$$ A partir de ahí, has hecho todo lo demás bien, pero ese error ha dado un resultado erróneo. También has interpretado mal este resultado. Si usted fueron capaz de reducir la fila a una matriz como la que tiene en la parte inferior derecha, eso significaría, de hecho, que para $T(x,y,z)$ sea nulo, entonces necesitamos $x=0,y=0,z=0$ . Es decir, su núcleo es simplemente el origen, el subespacio de dimensión $0$ . Este tiene como base el conjunto vacío, no el conjunto $\bigl\{(-1,1,1)\bigr\}.$
Para ser más eficiente, yo empezaría con $R_2-2R_1$ y $R_3-3R_1$ , dando lugar a $$\left[\begin{array}{ccc|c}1 & 2 & 3 & 0\\0 & -1 & -2 & 0\\0 & -2 & -4 & 0\end{array}\right].$$ De este modo, tenemos todos los ceros por debajo de la entrada superior izquierda (nuestra primera entrada no nula). A continuación, tomaría $R_3-2R_2$ , dando lugar a $$\left[\begin{array}{ccc|c}1 & 2 & 3 & 0\\0 & -1 & -2 & 0\\0 & 0 & 0 & 0\end{array}\right],$$ lo que nos da todos los ceros por debajo del $-1$ en la segunda fila (nuestra segunda entrada principal no nula). Entonces, tomaría $-1\cdot R_2$ (así que ahora todas nuestras entradas principales no nulas son $1$ s), y finalmente $R_1-2R_2$ , dando lugar a $$\left[\begin{array}{ccc|c}1 & 0 & -1 & 0\\0 & 1 & 2 & 0\\0 & 0 & 0 & 0\end{array}\right].$$ Nuestras entradas principales no nulas, ahora, son todas $1$ s, y tienen todos $0$ s por encima y por debajo de ellos. Esto se denomina forma escalonada reducida de nuestra matriz original.
Reescribiendo las tres filas de esta matriz aumentada como sus ecuaciones equivalentes, tenemos: $$x-z=0$$ $$y+2z=0$$ $$0=0.$$ Esto último es trivial, así que tenemos que $(x,y,z)$ está en el núcleo de $T$ si y sólo si $x=z$ y $y=-2z$ . En otras palabras, el núcleo de $T$ consiste en todos los vectores de la forma $(z,-2z,z)$ con $z$ real, o, de forma equivalente, todos los múltiplos escalares reales del vector $(1,-2,1)$ . Por lo tanto, $$\bigl\{(1,-2,1)\bigr\}$$ es una base para el núcleo de $T$ .