¿Cómo puede ser la "información" una magnitud física útil si su valor depende del modelo?

Question

Desde Respuesta de @Humble a "¿Qué es la información?" :

Información contenida en un sistema físico = el número de preguntas de sí/no que hay que responder para especificar completamente el sistema.

Sin embargo, esto es relativo a un modelo determinado. Así, tanto un modelo "infinito y contable" como un modelo "continuo" tendrían un contenido de información infinito (posible).

La noción de información parece encontrar muchos usos en la mecánica estadística moderna, la computación cuántica y otros campos, así que ¿cómo formulan los físicos una definición sólida e inequívoca de la información, dado que, ingenuamente, parecería depender del modelo?

Answer 1

¿Cómo pueden los físicos formular una definición sólida e inequívoca de la información, dado que, ingenuamente, parece depender del modelo?

La práctica es, tomar el modelo que te interesa, con un conjunto de estados posibles, y trabajar con distribuciones de probabilidad en esos estados y opcionalmente discutir la entropía de la información o el contenido de información de esas distribuciones de probabilidad. Esto es útil incluso si en otro modelo, más refinado o simplemente diferente de la misma cosa física, utiliza diferentes estados y por lo tanto asigna diferente entropía de la información.

En resumen, es es depende del modelo. No hay una respuesta universal a la pregunta: ¿cuál es la entropía de la información de un cubo de hielo de 1 cm de lado? Depende del modelo del cubo. Si el modelo sólo se preocupa de qué lado está arriba, sólo tiene 6 estados posibles, entonces la entropía máxima es $\ln 6$ . Si el modelo es de simulación molecular y el estado involucra posiciones y orientaciones de todas las moléculas de agua en el cubo, a 1atm y cero Celsius, el espacio de estado es inmensamente mayor y la entropía de la información es un número mucho más alto.

Answer 2

La teoría de la información algorítmica define la complejidad de una determinada cadena de bits (que podría representar el número $\pi$ o una teoría axiomática completa) como el programa más pequeño que puede dar esa cadena como salida. Algunos números irracionales como $\pi$ son cortos de información, ya que puede comprimirlos en un algoritmo corto que emite un dígito tras otro sin fin. Pero la mayoría de los números irracionales no son comprimibles de esa manera: para la mayoría de los reales no hay ninguna fórmula que pueda calcular todos sus dígitos.

Cualquier sistema formal, o teoría, en física es un conjunto finito de cadenas. Por lo tanto, se puede mapear a los números naturales y siempre se encuentra que su complejidad es baja, en comparación, al menos, con la complejidad de las cadenas aleatorias, incluso del mismo tamaño.

Pero para responder específicamente a su pregunta, es un teorema de la teoría de conjuntos que si una teoría de primer orden contable tiene un modelo infinito, entonces para cada número cardinal infinito $\kappa$ tiene un modelo de tamaño $\kappa$ .

Para abreviar, para la mayoría de las teorías que se te ocurran, hay un número infinito de modelos que la satisfacen, con cualquier cardinalidad que elijas.