"Infinito" para mí no tiene mucho sentido en la física. Es una bonita herramienta matemática, la necesitas para hacer cálculos; pero para las cosas reales prefiero "muy grande". He visto muchas cosas "muy grandes"; nunca he visto nada infinito.
De todos modos, más en serio, utilizamos todo el tiempo espacios de dimensión infinita, son útiles. Desde el ejemplo de la "partícula en una caja" por >JSorngard:
Quieres mantener tu partícula en un estado propio, contra las perturbaciones externas. Puede escapar yendo a otros estados propios. Éstos, en teoría, son infinitos, así que para calcular la probabilidad de que tu partícula salga de tu estado propio favorito, sumas la probabilidad de transición a cada uno de esos estados (infinitos). ¡¡Y funciona!!
En la práctica no hay realmente infinitos estados propios; la partícula está confinada por alguna trampa física real que tiene un tamaño finito y sólo puede contener una energía finita. Pero increíblemente a menudo se puede ignorar esta finitud, ya que la suma infinita es casi idéntica a la suma (muy grande) del estado propio real.
Otro argumento a favor de la utilidad/realidad de los infinitos se refiere a la notación: utilizamos infinitos para definir y manipular un objeto normal. Un ejemplo es la expansión de Taylor de $e^x$ : Es una suma infinita, su utilidad, no da lugar a nada sin sentido.