Para muestras de tamaño pequeño o moderado, cada uno de los distintos estadísticos de orden de una distribución tiende a tener una distribución de forma diferente. Si se observa la (versión actual) del Wikipedia artículo sobre estadísticas de orden verá funciones de densidad de varias estadísticas de orden de una distribución exponencial; eso está en la esquina superior derecha del artículo.
Estadística de orden de una distribución uniforme. Más adelante, el artículo dice que el $k$ estadístico de orden de una muestra de tamaño $n$ de $\mathsf{Unif}(0,1)$ tiene la distribución $\mathsf{Beta}(k, n+1-k).$ Para una muestra de tamaño $n = 4,$ la figura siguiente muestra las funciones de densidad de las cuatro estadísticas de orden.
Como puede verse en el enlace de Wikipedia, existe una fórmula para las FDA de las distribuciones de los distintos estadísticos de orden de una población dada. A veces, como en el caso de una población uniforme, los resultados son fáciles de derivar y calcular.
Máximo de muestras normales. A veces, puede ser más fácil hacer una simulación. La distribución del máximo de una muestra de tamaño $n = 20$ de una distribución normal estándar se simula a continuación. Como se puede ver, no es normal.
set.seed(505)
x = replicate(10^5, max(rnorm(20)))
mean(x); sd(x)
[1] 1.867599
[1] 0.5230468
summary(x)
Min. 1st Qu. Median Mean 3rd Qu. Max.
0.139 1.501 1.825 1.868 2.188 4.944
En términos más generales. Sin embargo, existe una especie de "Teorema Central del Límite" para cuantiles de muestras grandes de una amplia variedad de distribuciones. Las condiciones son que el cuantil no puede ser el máximo ni el mínimo, y que la función de densidad de la distribución de la población debe ser positiva en el cuantil en cuestión.
Así, en particular, la mediana (percentil 50) de una muestra de tamaño 125 de $\mathsf{Exp}(1)$ es casi normal.
set.seed(1234)
x = replicate(10^5, median(rexp(125)))
mean(x); sd(x)
[1] 0.6970988
[1] 0.08989155
summary(x)
Min. 1st Qu. Median Mean 3rd Qu. Max.
0.3727 0.6342 0.6932 0.6971 0.7552 1.1954