No, esto representa una contable unión. En este contexto se tiene un conjunto $A_i$ por cada $i \in {\mathbb N}$ y se forma la unión $$\bigcup_{i=0}^\infty A_i = \bigcup \{ A_i \mid i \in {\mathbb N}\} = \{ x \mid \exists i \in {\mathbb N}: x \in A_i\}.$$ En particular, no hay $A_\infty$ incluidos en la unión.
Para un arbitrario unión, tendrías un conjunto de índices (de tamaño arbitrario) $I$ y un conjunto $A_i$ por cada $i \in I$ y se forma la unión $$\bigcup_{i \in I} A_i = \bigcup \{ A_i \mid i \in I\} = \{ x \mid \exists i \in I: x \in A_i\}.$$ O, como se sugiere en los comentarios de Mark S., tendrías un conjunto ${\cal A}$ cuyos miembros son conjuntos y se forma la unión $$\bigcup{\cal A} = \{x \mid \exists A \in {\cal A} : x \in A \}.$$
Si se toma una unión hasta e incluyendo algún ordinal (posiblemente transfinito) $\beta$ probablemente se te entendería si escribieras $\bigcup_{\alpha=0}^\beta A_\alpha$ pero creo que es más común escribir $\bigcup_{\alpha \leq \beta} A_\alpha$ en ese caso, especialmente porque entonces también se puede escribir $\bigcup_{\alpha < \beta} A_\alpha$ para significar que $A_\beta$ no está incluido en la unión.
Si quieres hacerte cargo del sindicato todo ordinales, se podría escribir $\bigcup_{\alpha \in \text{Ord}} A_\alpha$ ignorando por un momento que esto te lleva al dominio de las clases propias en lugar de los conjuntos.