Si $A^3=0$, entonces el polinomio minimal divide a $t^3$, lo que significa que el polinomio característico debe ser $t^5$ (alternativamente, si $\lambda$ es un eigenvalor de $A$, entonces $\lambda^3$ es un eigenvalor de $A^3$, por lo tanto $\lambda^3=0$, por lo tanto $\lambda=0).
Ahora recuerda que el mayor poder de $t-\lambda$ que divide al polinomio minimal te da el tamaño del bloque de Jordan más grande asociado a $\lambda$ en la forma canónica de Jordan. Por ejemplo, si el polinomio minimal fuera $t^4$, eso significa que debe haber al menos un bloque de tamaño $4$, y no bloques de tamaño mayor. Para una matriz de $5\times 5$, eso significaría que la forma de Jordan debe consistir de un único bloque de Jordan de $4\times 4$ asociado a $0$, y un bloque de $1\times 1$ asociado a $0$ (ya que eso es todo lo que queda).
Ahora considera las tres posibilidades para el polinomio minimal y lo que te dice. Enumerar las posibles formas de Jordan a partir de esa información es bastante sencillo.
Como una forma de verificar tu trabajo, debería haber cinco formas canónicas de Jordan posibles.