Diferencia entre distintos tipos de entropía

Question

Los siguientes conceptos son desconcertantes y estaría obligada para constructiva de la explicación.

(Q1) ¿Cuál es la diferencia conceptual entre (a) la prueba de Kolmogorov-Sinai de la entropía, (b) la entropía de Shannon, (c) Fuente de entropía (d) la entropía topológica y (e) la entropía de Boltzmann?

(Q2) ¿cuáles son las relaciones entre los diferentes entropías?

(Q3) Son intercambiables y significan lo mismo?

(T4) Donde puedo encontrar un buen lúcida explicación acerca de la entropía de Kolmogorov y por qué es necesaria y su importancia?

(P5) Puede entropía de Boltzmann ser igual a la entropía de Kolmogorov?

Answer 1

Shannon la entropía es un concepto general para la entropía para cualquier distribución de probabilidad. Y en función de lo que la probabilidad de que usted elija, usted consigue algo diferente.

En particular:

• Fuente de la entropía es la entropía de Shannon de la distribución de probabilidad asociada con alguna fuente de señales, como por ejemplo, los ceros y los unos o letra de un alfabeto (ver C. Shannon, la Teoría Matemática de la Comunicación (1948))
• Entropía de Boltzmann es la entropía de Shannon de la distribución de probabilidad del estadístico microstates (mismo: de la distribución de probabilidad en el espacio de fase, hasta un factor constante)

Y acerca de entropías no soy profundamente en:

• Prueba de Kolmogorov-Sinai de la Entropía, es (lo entiendo) a una determinada cantidad derivada de la entropía, relacionados con el comportamiento caótico de los sistemas dinámicos (también sucede en el espacio de fase); como se puede ver en su fórmula, su fórmula consiste en la entropía de Shannon para un conjunto particular relacionadas con las trayectorias, sino que también involucra a otras operaciones
• Topológico de la entropía es un concepto relacionado