Hay un punto que se menciona de pasada en la respuesta de Moishe Cohen que merece un poco de elaboración, que es que muchas veces no es importante que una variedad tenga una base numerable. Más bien, lo importante en la mayoría de las aplicaciones es que una variedad sea paracompacta: esto es lo que te da particiones de la unidad, que son esenciales para una gran cantidad de la teoría de variedades (por ejemplo, como mencionó la otra respuesta, demostrando que cualquier variedad admite una métrica de Riemann).
La paracompacidad se deduce de la segunda numerabilidad, que es la razón principal por la que la segunda numerabilidad es útil. La paracompacidad es más débil que la segunda numerabilidad (por ejemplo, un espacio discreto no numerable es paracompacto), pero resulta que no es mucho más débil: una variedad (Hausdorff) es paracompacta si y solo si cada uno de sus componentes conexas es de segunda numerabilidad. En otras palabras, una variedad paracompacta general es solo una unión disjunta de (posiblemente un número no numerable) variedades de segunda numerabilidad. Entonces, si te preocupas principalmente por las variedades conexas (o incluso solo por variedades con un número numerable de componentes conexas), no pierdes generalidad importante al asumir la segunda numerabilidad en lugar de la paracompacidad.
También hay algunas situaciones donde realmente es conveniente asumir la segunda numerabilidad y no solo la paracompacidad. Por ejemplo, en la teoría de los grupos de Lie, es conveniente poder definir un subgrupo de Lie (que no necesariamente sea cerrado) de un grupo de Lie $G$ como un grupo de Lie $H$ junto con un homomorfismo inyectivo suave $H\to G$. Si permitieras que tus grupos de Lie no fueran de segunda numerabilidad, tendrías el ejemplo incómodo e indeseado de que $\mathbb{R}$ como un espacio discreto es un subgrupo de Lie de $\mathbb{R}$ con la estructura suave usual de $1$ dimensión (a través del mapa identidad). Por ejemplo, este ejemplo viola el teorema (verdadero si requieres segunda numerabilidad) de que un subgrupo cuya imagen es cerrada es en realidad una subvariedad embebida.