Sí, te quedas sin pasos que utilizar en el caso 3, pero la rama en el caso 4 puede ser eterna.
Pero para ser puntilloso (por si acaso su modo de presentación representa efectivamente su pensamiento)...
No, no, no, tú nunca instanciar dos cuantificadores a la vez en un cuadro (que es lo que parece estar haciendo). Sólo se permite, en un paso determinado, instanciar el cuantificador más exterior cuantificador. Mira las reglas (en mi texto de lógica o en cualquier otro libro de texto basado en tablas).
Así que si un wff es de la forma $\forall x\varphi(x)$ entonces se instala con un nuevo nombre $a$ para obtener $\varphi(a)$ -- y eso sigue siendo válido si $\varphi$ comienza con un cuantificador. Una vez que tenga $\varphi(a)$ entonces se aplica cualquier regla que sea apropiada ahora.
Así, el retablo podría ser
$$\forall x\exists y Rxy$$ $$\exists yRay$$ $$ Rab$$ Y ahora podrías (si quieres) continuar $$\exists yRby$$ $$ Rbc$$ Pero los pasos intermedios (no indicados de ninguna manera en sus árboles) son esenciales.