Me parece a MÍ muy interesante, pero me parece sorprendente en cuanto a cuando, en el mundo real, no debe ser invocado. Mi preocupación es que la utilidad de MÍ es exagerado, aunque yo sería muy feliz de tener esta preocupación se disipó. Permítanme explicar mi pensamiento: Supongamos que tengo un conjunto de datos. A partir de estos podría medir su varianza, y con ese número en la mano, podía maximizar la entropía sujeto a la restricción de que el resultado coincide con la varianza he medido. Me gustaría, a continuación, obtener la distribución normal. Pero, sobre esta base, soy yo en realidad se supone que debemos creer que la distribución normal es una descripción adecuada de mis datos? Yo creo que no. Lo que si me eligió para medir algunos otros de la calidad de los datos, no sé, tal vez o curtosis media desviación absoluta, o algo, entonces invocando ME daría una distribución diferente. Mismos datos, el mismo proceso de generación de los datos, pero ahora, de repente, basado en lo que he elegido para la medición, las diferencias en la distribución parece estar implícita. Para mí, esta no es la forma de análisis que normalmente se trabaja. Si tengo los datos, puedo medir la varianza, seguro, pero quizás me gustaría invocar el teorema del límite central para justificar el uso de la normal, no a MÍ. Así que yo me quedo preguntando, en un mundo práctico, con datos en la mano, ¿bajo qué circunstancias se podría invocar realmente muy atractivo matemáticas de Máxima entropía de la distribución de probabilidad?
Respuesta
¿Demasiados anuncios?
Primero de todo, he intentado comentar sobre la pregunta, pero no pude porque no tengo (todavía no) 50 puntos de reputación, así que voy a postear mi opinión como una respuesta a pesar de saber que no es una respuesta completa a lo preguntado.
En un Bayesiano marco probabilístico, las probabilidades son considerados como "grados de creencia", es decir, el "más racional" medida de plausabilities de afirmaciones sobre situaciones de información incompleta (1).
En ese contexto, se puede demostrar que (2) que el Principio de Máxima Entropía es la opción razonable para la actualización de un "estado de conocimiento" de un agente racional, a otro estado cuando tropezó con la nueva información que limita su conocimiento (por ejemplo, más datos). De modo que la Máxima Entropía como yo lo veo.
Su pregunta, sin embargo, las preocupaciones de los priores, los cuales son mucho más delicado. Eso es más o menos el terreno filosófico, epistemológico preguntas: algunos argumentan que los priores son un sin sentido, porque la ciencia es notable ciertas, y no puede permitir que el espacio para las subjetividades; por otro lado, algunas personas argumentan que es realmente subjetivo, y no hay ninguna queja al respecto, porque nunca vamos a tener acceso a la "verdadera naturaleza" de nuestro objeto de estudio.
Yo prefiero a justificar bayesiana de la subjetividad y de los priores diciendo que normalmente no tienen acceso a el objetivo, mechanistical descripción de nuestro evento - o tal vez lo haya, pero no queremos! (porque de los muchos grados de libertad, de baja potencia computacional et cetera). En estos escenarios, aprovechamos al máximo cada pieza de información clave que tenemos en el problema (no los datos!): sea simetrías, momentos, o alguna, por lo que podemos codificar nuestro conocimiento como probabilidades y actualización en la base de datos.
En el nombre de Bayesiana y Entrópico de Inferencia, trataré de explicar el razonamiento detrás de estos mal entendidos temas citando cita de Bertrand Russell:
Quiero proponer para el lector es una consideración favorable de una doctrina que, me temo, parecen tremendamente paradójico y subversivo. El la doctrina en cuestión es este: que es indeseable para creer en un la proposición cuando no hay razón alguna para suponer que es cierto.
Bertrand Russell, en Ensayos Escépticos
El punto principal es que no podemos utilizar la información que no tenemos o ignorar la información que nos hacer tener a la hora de construir nuestras prioridades. Todo conocimiento debe ser considerado.
Debo pedir disculpas por mi mal inglés, yo no soy un hablante nativo y a veces (muchas veces) escribo algunas cosas pensando que estamos en lo correcto pero no lo son. Agradecería si alguien señaló mis errores ^^
