Vamos a encontrar la parte superior central de la serie. Para facilitar la notación, vamos
$$ T_k = \begin{pmatrix} 1 & k\\0 & 1\end{pmatrix}$$
y
$$ R = \begin{pmatrix} 0 & 1 \\ 1 & 0\end{pmatrix}$$
ser la traducción y la reflexión de las matrices, con la recíproca $T_k^{-1} = T_{-k}$$R^{-1}=R$. El centro de $GL(2,\mathbb{Z}$) seguramente debe conmuta con todos los $T_k$ (es decir, para todos los $k$), y también con $R$. Si nos vamos a
$$ X = \begin{pmatrix} a & b \\ c & d\end{pmatrix}$$
a continuación, $X$ estar en el centro implica
\begin{align}
T_kXT_{-k} &= X\\
RXR &= X
\end{align}
Esto es suficiente para implicar $b=c=0$ $a=d$ [para ver esto, basta hacer la multiplcations y equiparar la matriz de coeficientes]; es decir, el centro es$Z_1=\{I, -I\}$, $I$ $2\times2$ matriz identidad.
¿Y el segundo centro, $Z_2$? Estos son elementos que son fundamentales "mod $Z_1$", o elementos $X$ tal que para todos los $Y\in GL(2,\mathbb{Z})$, tenemos
$$ YXY^{-1} = \pm X$$
[Nota: la elección de las $+$ o $-$ en el lado derecho depende de $Y$.]
De nuevo, el uso de $T_k$$R$, muestran que $X$ tendría que ser $\pm I$. Esto significa $Z_2=Z_1$, y por lo tanto la parte superior central de la serie se ha estancado (y no se ha convertido en el total del grupo); el grupo de $GL(2,\mathbb{Z})$, con lo que no es nilpotent.
EDIT: Añadir más detalles.
Primer centro de
Si $X$ está en el centro de la $GL(2,\mathbb{Z})$, entonces conmuta con todas las matrices. En particular, hemos
$$ T_kXT_{-k}=X$$
para todos los $T_k$. La expansión de eso, tenemos cuatro ecuaciones:
\begin{align}
a+ck &= a\\
b+k(d-a-ck) &= b\\
c &= c\\
d-ck &= d
\end{align}
Ya que esto es válido para cualquier $k$, podemos obtener a partir de la primera ecuación $a+ck_1=a+ck_2$$k_1\neq k_2$, lo que implica inmediatamente $c=0$. Sabiendo $c=0$, la segunda ecuación implica igualmente $a=d$. Para obtener $b=c$, podemos expandir $RXR=X$:
\begin{equation}
\begin{pmatrix}
d & c\\
b & a
\end{pmatrix} = \begin{pmatrix} a & b\\c & d\end{pmatrix}
\end{equation}
Por lo tanto, nuestro centro es $\{I, -I\}$ (que en realidad necesitan para la comprobación de estos conmuta con todas las matrices, pero eso es fácil).
Segundo centro de
El segundo centro se define como $Z_2(G)/Z_1(G)=Z(G/Z_1(G))$; es decir, se compone de las matrices que conmutan con todos los demás", mod $Z_1$". Esto significa que si $X\in Z_2$, e $Y\in GL(2,\mathbb{Z})$, entonces no existe $Z_Y\in Z_1$ tal que
$$ YXY^{-1} = Z_YX$$
El elemento de $Z_1$ probablemente dependerá $Y$; el punto es que siempre existe. (Si quieres pensar acerca de esto de manera más abstracta, la de arriba es solo diciendo que $[Z_2, G]\subset Z_1$).
Vamos a buscar el segundo centro. Si $X\in Z_2$, entonces para cada a $k$ existe $Z_k\in Z_1=\{I, -I\}$ tal que
$$ T_kXT_{-k} = Z_kX$$
Puesto que sólo hay dos opciones para $Z_k$ (es decir, $I$ o $-I$), y puesto que hay infinidad de $k$s, podemos optar $k_1, k_2$ tal que $Z_{k_1}=Z_{k_2}$, y por lo tanto sólo como en el anterior, obtenemos (posiblemente después de la cancelación de un signo negativo si $Z_{k_1}=Z_{k_2}=-I$)
$$ a + ck_1 = a + ck_2$$
que de nuevo implica $c=0$. El uso de $R$ hemos
\begin{equation}
\begin{pmatrix}
d & c\\
b & a
\end{pmatrix} = Z_R\begin{pmatrix} a & b\\c & d\end{pmatrix}
\end{equation}
donde $Z_R$ $I$ o $-I$. Así llegamos $b=\pm c=0$, e $a=\pm d$.
Eso significa que la única cosa a la izquierda para mostrar que $Z_2=Z_1=\{I, -I\}$ es para mostrar que $a=-d$ no puede suceder. Es decir, tenemos que mostrar la matriz
$$ \begin{pmatrix}
-1 & 0\\
0 & 1
\end{pmatrix}
$$
no es en $Z_2$. Voy a dejar esto como un ejercicio (sugerencia: pruebe a comprobar lo que sucede con $T_1$).
