No estoy seguro de si esto responderá tu pregunta, pero me pregunto acerca de un par de cosas que podrían ser útiles.
Lo primero es el diagrama equivalente para un gas real.
imagen de https://upload.wikimedia.org/wikipedia/commons/thumb/3/3e/Real_Gas_Isotherms.svg/600px-Real_Gas_Isotherms.svg.png Nota que para un gas real existen líneas horizontales donde una mezcla de gas y líquido coexisten en equilibrio juntos. En una de las líneas horizontales, si se reduce la presión, más gas (o vapor) se forma arriba del líquido; si se aumenta la presión, más líquido se forma a partir del gas. Cuando todo el gas se convierte en líquido, la presión aumenta bruscamente a medida que el volumen se reduce. Cuando todo el líquido se ha vaporizado para formar gas, la presión comienza a disminuir a medida que el volumen se incrementa aún más.
Ahora lo crucial es que en realidad, si el gas de Van Der Waals se encuentra por debajo de la temperatura crítica, forma un líquido al comprimirlo.
Ahora creo que lo más relevante para tu pregunta en este momento es lo siguiente.
-
las ecuaciones de gas para el gas de Van Der Waals no permiten que el gas forme un líquido de la manera en que lo hace un gas real, pero el término $(p + a/Vm^2)$ significa que la presión se reduce debido a fuerzas atractivas intermoleculares - por lo tanto, cuánto más pequeño es el volumen, más cerca están juntas las moléculas de gas y menor es la presión que ejercen.
-
Las fuerzas atractivas entre las moléculas significan que $dP/dV$ puede ser $+ve$ - la interpretación física es que las fuerzas atractivas entre las moléculas las jalan juntas... esto es un poco como un gas real convirtiéndose en un líquido.
-
El potencial intermolecular de Van der Waals tiene una energía mínima en alguna separación molecular $r$ - para separaciones mayores que $r$ el potencial aumenta... Es fácil argumentar que existe atracción entre las moléculas para separaciones mayores que $r$.
Por lo tanto, en conclusión, el potencial de Van der Waals nos dice que las moléculas se atraen entre sí - y por debajo de la temperatura crítica esto puede llevar al comportamiento 'inestable' que describes en tu pregunta.