No del todo.
Los elementos de la matriz a los que te refieres se denominan "no diagonales" por razones obvias: Si escribieras la matriz, estos elementos aparecerían en algún lugar distinto de la diagonal.
Un elemento fuera de diagonal no nulo de un operador $B$ no significa necesariamente que no se pueda diagonalizar $B$ en absoluto . Sólo significa que en la base utilizada actualmente, $B$ no es diagonal, así de simple.
Sin embargo, puedes hacer algunas conexiones con la teoría de la perturbación. Digamos que tenemos un Hamiltoniano "simple" $H_0$ y una perturbación $V$ de modo que el hamiltoniano completo es $H_0 + V$ . Entonces, normalmente eso significa que conocemos los estados propios de $H_0$ y en la base formada por esos estados propios, $H_0$ será diagonal.
La perturbación, sin embargo, no es necesariamente diagonal en esa base propia. Si lo fuera, entonces $H_0 + V$ sería tan fácil de diagonalizar como $H_0$ . Ahora, ¿qué hace un elemento matricial no nulo de $V$ en las bases propias de $H_0$ ¿quieres decir? Significa que la perturbación "mezcla" esos dos estados. Significa que los verdaderos estados propios de $H_0 + V$ contendrá estados que tienen cierta probabilidad de estar en $\Psi$ y alguna probabilidad de estar en $\Phi$ .
En el contexto de la teoría de perturbación dependiente del tiempo, significa que si se comienza en el estado $\Phi$ entonces en el sistema imperturbable te quedarías en $\Phi$ pero debido a la perturbación hay una probabilidad de que el sistema transite al estado $\Psi$ , dada por la regla de oro de Fermi.