He aquí una teoría deflacionista: Algo es aleatorio cuando su comportamiento se modela formalmente utilizando la maquinaria de la teoría de la probabilidad, una parte axiomatizada de las matemáticas puras. Así que, en cierto sentido, la respuesta a la primera pregunta es bastante trivial.
Al abordar la cuestión, no tan bien planteada, de si la aleatoriedad existe realmente, es útil preguntarse si los vectores existen "realmente". Y cuando se tenga una opinión al respecto, preguntarse a) si es sorprendente o no que los polinomios sean vectores, b) si y cómo podríamos estar equivocados al respecto, y finalmente c) si, por ejemplo, las fuerzas en física son las cosas que los vectores 'son' en el sentido de la pregunta. Probablemente ninguna de estas preguntas ayudará mucho a entender lo que pasa en el foro, pero sacarán a relucir las cuestiones relevantes. Podrías empezar aquí y luego seguir las otras entradas de la Enciclopedia Stanford sobre la filosofía de la probabilidad y la estadística.
Hay mucha discusión allí, afortunadamente no se encuentra mucho por aquí, sobre la existencia y la relevancia de la aleatoriedad física "real", generalmente de la variedad cuántica, algo de lo cual es (útil) señalado por @dmckee en los comentarios anteriores. También está la idea de que la aleatoriedad como una especie de incertidumbre. En el marco mínimo de Cox puede ser razonable pensar que las incertidumbres (convenientemente ordenadas) son isomorfas con las probabilidades, por lo que tales incertidumbres son, en virtud de esa conexión, tratables como si fueran aleatorias. Está claro que la teoría del muestreo repetido también utiliza la teoría de la probabilidad, en virtud de la cual sus cantidades son aleatorias. Uno u otro de estos marcos cubrirá todos los aspectos relevantes de la aleatoriedad que he visto en estos foros.
Hay desacuerdos legítimos sobre lo que debe y no debe ser modelado como aleatorio, que puedes encontrar bajo las banderas Bayesiana y Frecuentista, pero estas posiciones sólo sugieren pero no determinan completamente el significado de la aleatoriedad involucrada, sólo el alcance.