Actualmente estoy trabajando con cadenas de Markov y he calculado la estimación de máxima probabilidad utilizando las probabilidades de transición sugeridas por varias fuentes (es decir, el número de transiciones de a a b dividido por el número de transiciones globales de a a otros nodos).
Ahora quiero calcular la log-verosimilitud de la MLE.
Dejemos que $ \{ X_i \}_{i=1}^{T}$ sea una trayectoria de la cadena de Markov y que $P_{\theta}(X_1, ..., X_T)$ sea la probabilidad de observar la trayectoria cuando $\theta$ es el verdadero valor del parámetro (también conocido como la función de probabilidad para $\theta$ ). Utilizando la definición de probabilidad condicional, sabemos
$$ P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}, ..., X_1) \cdot P_{\theta}(X_1, ..., X_{T-1})$$
Como se trata de una cadena de Markov, sabemos que $P_{\theta}(X_T | X_{T-1}, ..., X_1) = P_{\theta}(X_T | X_{T-1} )$ Así que esto se simplifica a
$$ P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}) \cdot P_{\theta}(X_1, ..., X_{T-1})$$
Ahora bien, si se repite esta misma lógica $T$ veces, se obtiene
$$ P_{\theta}(X_1, ..., X_T) = \prod_{i=1}^{T} P_{\theta}(X_i | X_{i-1} ) $$
donde $X_0$ debe interpretarse como el estado inicial del proceso. Los términos del lado derecho son sólo elementos de la matriz de transición. Como era la log-verosimilitud que pediste, la respuesta final es:
$$ {\bf L}(\theta) = \sum_{i=1}^{T} \log \Big( P_{\theta}(X_i | X_{i-1} ) \Big) $$
Se trata de la probabilidad de una sola cadena de Markov; si su conjunto de datos incluye varias cadenas de Markov (independientes), la probabilidad completa será una suma de términos de esta forma.
Vaya, muchas gracias por la respuesta. En este caso $P_{\theta}$ es la probabilidad de "transición" tomada de la MLE, ¿verdad?
@ph_singer, de nada. $P_{\theta}(X_i|X_{i-1})$ es la probabilidad de pasar del estado $X_{i-1}$ à $X_i$ , dado el valor del parámetro, $\theta$ . Si no se impone ninguna estructura en la matriz de transición (que es lo que parece), entonces $\theta$ sólo denota el vector de probabilidades de transición (y las MLEs son sólo las proporciones de la muestra, como usted indicó correctamente en su declaración de la pregunta), así que, sí: $P_{\hat{\theta}_{{\rm MLE}}}(X_i|X_{i-1})$ será simplemente la proporción muestral de movimientos del estado $X_{i-1}$ que terminó en el estado $X_{i}$ .
Gracias de nuevo. Sólo una pregunta más: Si utilizo otro orden (por ejemplo, k=2), ¿cómo funcionaría entonces este proceso?
I-Ciencias es una comunidad de estudiantes y amantes de la ciencia en la que puedes resolver tus problemas y dudas.
Puedes consultar las preguntas de otros usuarios, hacer tus propias preguntas o resolver las de los demás.
0 votos
Ya has calculado la estimación de máxima verosimilitud de las probabilidades de transición y ahora quieres calcular la log-verosimilitud de qué exactamente?