Para que la pregunta quede más clara, escribiré el contexto en el que la formulé yo mismo.
Estaba estudiando el rompecabezas de doce monedas en el que se te dan 12 monedas y usando una balanza cierto número de veces tienes que decidir algo sobre las monedas. En realidad, los detalles no importan. El problema que quería resolver no era el rompecabezas en sí, sino dar un límite al número máximo de monedas $n$ que puedes tener si quieres resolver el puzzle usando la balanza $k$ tiempos.
Se trata de un problema clásico, que puede abordarse utilizando técnicas de combinatoria, por ejemplo. Sin embargo, para mi planteamiento utilicé la Teoría de la Información para obtener el límite. Mi argumento comenzó así:
Dejemos que $X$ sea la variable aleatoria que representa los posibles estados de las monedas. Lo que queremos es poder determinar $X$ de $k$ usos de una balanza, para cualquier distribución de $X$ ....
Lo que queda de la prueba, al igual que los detalles de este problema en sí, no son relevantes. Lo que importa es la pregunta que me hice en este punto: ¿Está bien asumir algún tipo de distribución de los estados de las monedas? Esto parece raro, porque aunque la prueba da la misma cota que se puede obtener con métodos combinatorios, éstos no asumen nada sobre la distribución subyacente de las monedas. Por otro lado, estoy asumiendo que ¡las monedas deben tener algún tipo de distribución! Aunque no lo sepamos, debe estar ahí.
Conozco otros contextos en los que se asume que deben existir distribuciones de datos. En el aprendizaje automático, por ejemplo, se hacen predicciones basadas en la suposición de que los datos subyacentes tienen alguna distribución, que aunque se desconozca, ¡está ahí! (Así que se pueden aplicar argumentos estadísticos).
La pregunta
Haré lo posible por abstraer mi pregunta de forma concisa a partir de mis ejemplos anteriores.
¿Es natural considerar cualquier resultado de un proceso como una variable aleatoria con una distribución subyacente? ¿Existen algunos estudios en este sentido? ¿Está esto más allá del ámbito de las Matemáticas/Estadística propiamente dicho (y más relacionado con cómo interpretamos los resultados en estos campos en la "vida real")?