Fórmula de la probabilidad marginal en CRF++

Question

En el sitio web de CRF++ http://crfpp.sourceforge.net/ mencionan que se pueden obtener probabilidades marginales para cada etiqueta posible. Mi pregunta es, en la teoría de CRF, ¿cuál es la fórmula para esta probabilidad marginal? Creo que es:

$$p_{_\theta}(Y_{_j} = y | X ) = \frac{\alpha_{_j}(y|X)\beta_{_j}(y|X)}{Z_{_\theta}(X)}$$

donde Yj es una sebecuencia de Y, que es la secuencia de etiquetas, condicionada a la variable observada X, y Z(X) es una función de normalización de X, y y son las probabilidades hacia delante y hacia atrás utilizadas en los algoritmos forward-backward.

¿Es esto correcto?

Answer 1

Según Introducción a los campos aleatorios condicionales 1 la distribución marginal en (4.20) es:

$p(y_t|x) = \frac{1}{Z(x)} \alpha_t(y_t) \beta_t(y_t)$ (p. 318).

La función de normalización de X, $\alpha$ y $\beta$ son idénticas a las que usted menciona. Por supuesto, podemos reescribir esto a:

$p(y_t|x) = \frac{\alpha_t(y_t) \beta_t(y_t)}{Z(x)}$

Incluir o no el $\theta$ y utilizar $X$ o $x$ parecen ser preferencias de notación. $y_t$ es una abreviatura de $Y_t = y$ (p. 273), 2

$p_\theta(Y_t = y|X) = \frac{\alpha_t(Y_t = y) \beta_t(Y_t=y)}{Z_\theta(X)}$

No estoy seguro de $\alpha_t(y_t)$ siendo igual a $\alpha_t(y|X)$ . No estoy seguro de que esto sea correcto, pero podría ayudar a alguien.

1 : Sutton, C., y McCallum, A. (2012). An introduction to conditional random fields. Foundations and Trends in Machine Learning, 4(4), 267-373.