Siempre y cuando el intervalo de confianza se trate como al azar (es decir, visto desde la perspectiva de tratar los datos como un conjunto de variables aleatorias que aún no hemos visto), entonces sí que podemos hacer declaraciones de probabilidad útiles al respecto. Específicamente, supongamos que se tiene un intervalo de confianza en el nivel $1- \alpha $ para el parámetro $ \theta $ y el intervalo tiene límites $L( \mathbf {x}) \leqslant U( \mathbf {x})$ . Entonces podemos decir eso:
$$ \mathbb {P}(L( \mathbf {X}) \leqslant \theta \leqslant U( \mathbf {X}) | \theta ) = 1- \alpha \quad \quad \quad \text {for all } \theta \in \Theta. $$
Saliendo del paradigma del frecuentador y marginando sobre $ \theta $ para cualquier distribución anterior da el correspondiente resultado de probabilidad marginal:
$$ \mathbb {P}(L( \mathbf {X}) \leqslant \theta \leqslant U( \mathbf {X})) = 1- \alpha. $$
Una vez que fijemos los límites del intervalo de confianza fijando los datos a $ \mathbf {X} = \mathbb {x}$ ya no apelamos a esta declaración de probabilidad, porque ahora hemos fijado los datos. Sin embargo, si el intervalo de confianza se trata como un intervalo aleatorio entonces podemos hacer esta declaración de probabilidad, es decir, con probabilidad $1- \alpha $ el parámetro $ \theta $ caerá dentro del intervalo (aleatorio).
Dentro de las estadísticas de los frecuentadores, las declaraciones de probabilidad son declaraciones sobre frecuencias relativas en ensayos infinitamente repetidos. Pero eso es cierto para cada declaración de probabilidad en el paradigma del frecuentador, así que si su objeción es a las declaraciones de frecuencia relativa, no es una objeción específica a los intervalos de confianza. Si nos movemos fuera del paradigma del frecuentista, entonces podemos decir legítimamente que un intervalo de confianza contiene su parámetro objetivo con la probabilidad deseada, siempre que hagamos esta declaración de probabilidad marginalmente (es decir, no condicionada a los datos) y tratemos así el intervalo de confianza en su sentido aleatorio.
No sé de otros, pero me parece un resultado de probabilidad bastante poderoso, y una justificación razonable para esta forma de intervalo. Yo mismo soy más parcial a los métodos bayesianos, pero los resultados de probabilidad que respaldan los intervalos de confianza (en su sentido aleatorio) son resultados poderosos que no deben ser olfateados.