¿Es correcto calcular la distancia de Bhattacharyya para una función de tipo Cauchy y en forma de campana?

Question

Tengo el algoritmo (MF (Membership function) ARTMAP Neural network). La salida de este algoritmo son clusters en un espacio de características n-dimensional. Sobre cada cluster (en n+1 dimensión) hay una función de pertenencia (tipo Cauchy - función en forma de campana), que dice el valor de pertenencia de algún punto a algún cluster.

Ahora quiero calcular el solapamiento entre dos clusters. He encontrado la distancia Jeffries-Matusita. Pero JM usa la distancia Bhattacharyya (estoy usando la función bhattacharyya.dist() en R) y la referencia a esta función de R dice: Calcula la distancia de Bhattacharyya entre dos distribuciones gaussianas multivariantes.

¿Es correcto utilizar esta distancia de Bhattacharyya con una función en forma de campana como la de Cauchy?

Answer 1

Si tiene dos distribuciones de Cauchy, se aplica la definición de la distancia de Bhattacharyya (y el coeficiente BC). Pero no se puede esperar que se apliquen las fórmulas que se pueden encontrar para las distribuciones multinormales. Esas fórmulas dependen de la media y la matriz de covarianza, ¡que no existen en el caso de Cauchy!

Pero, podemos encontrar la expresión para el coeficiente de Bhattacharyya para el caso de dos distribuciones de Cauchy. Aquí sólo voy a ver el caso escalar. La función de densidad de Cauchy (generalizada para formar una familia de localización-escala) es $$ f(x; \mu, \sigma) = \frac1{\pi \sigma (1+ (\frac{x-\mu}{\sigma})^2)} $$ El coeficiente Bhattacharyya $$ BC(f,g) = \int \sqrt{f(x) g(x)} \; dx $$ se puede encontrar, tal vez con métodos numéricos, o podemos tratar de encontrar una fórmula. Intentaré usar Maple:

z := 1/sqrt( Pi^2 * sigma1 * sigma2
        *(1+((x-mu)/sigma1)^2) * (1+((x+mu)/sigma2)^2) );
                                  1                           
  z := -------------------------------------------------------
                                                         (1/2)
          /              /            2\ /            2\\     
          |              |    (x - mu) | |    (x + mu) ||     
       Pi |sigma1 sigma2 |1 + ---------| |1 + ---------||     
          |              |           2 | |           2 ||     
          \              \     sigma1  / \     sigma2  //     
int(z, x=-infinity..infinity) assuming sigma1 > 0, sigma2 > 0, mu > 0;
/   (1/2)          / (1/2) //     4       2       2
\2 2      EllipticK\2      \\16 mu  + 8 mu  sigma1 

         2       2         4           2       2         4\//   
   + 8 mu  sigma2  + sigma1  - 2 sigma1  sigma2  + sigma2 / \16 

    4       2       2       2       2         4
  mu  + 8 mu  sigma1  + 8 mu  sigma2  + sigma1 

             2       2         4     /     4       2       2
   - 2 sigma1  sigma2  + sigma2  + 4 \16 mu  + 8 mu  sigma1 

         2       2         4           2       2         4\       
   + 8 mu  sigma2  + sigma1  - 2 sigma1  sigma2  + sigma2 /^(1/2) 

    2   /     4       2       2       2       2         4
  mu  + \16 mu  + 8 mu  sigma1  + 8 mu  sigma2  + sigma1 

             2       2         4\             2   /     4
   - 2 sigma1  sigma2  + sigma2 /^(1/2) sigma1  + \16 mu 

         2       2       2       2         4           2       2
   + 8 mu  sigma1  + 8 mu  sigma2  + sigma1  - 2 sigma1  sigma2 

           4\             2\\      \\//   /      1       /    2
   + sigma2 /^(1/2) sigma2 //^(1/2)// |Pi |------------- \4 mu 
                                      \   \sigma2 sigma1       

           2         2   /     4       2       2       2       2
   + sigma1  + sigma2  + \16 mu  + 8 mu  sigma1  + 8 mu  sigma2 

           4           2       2         4\      \\      \
   + sigma1  - 2 sigma1  sigma2  + sigma2 /^(1/2)/|^(1/2)|
                                                  /      /

En esta expresión $\mu$ es el punto medio de $\mu_1, \mu_2$ : $\mu=\frac{\mu_1+\mu_2}{2}$ reescribiendo la integral mediante $\mu$ antes de invocar a maple da como resultado una expresión más simple y simétrica.

Maple da el resultado en términos de la integral elíptica completa del primer tipo, $K$ disponible en R en el paquete CRAN gsl . Ver https://en.wikipedia.org/wiki/Elliptic_integral

Answer 2

Aquí hay una respuesta más legible de Kjetil y también aquí . Sean las dos distribuciones de Cauchy

$$f_\pm(x) = \frac{b_\pm}{\pi} \frac{1}{(x\mp 1)^2 + b_\pm^2}$$

donde he normalizado las medias a la unidad. El coeficiente de Bhattacharyya entre ellos es

$$BC = \frac{4}{\pi}\sqrt{\frac{b_+ b_-}{A_+}} K\left(\frac{A_-}{A_+}\right).$$

Aquí, he introducido:

$$A_\pm = 4 + (b_+ \pm b_-)^2,$$

y $K$ es la integral elíptica completa de primer tipo definida por el programa de Mathematica EllipticK[] .

También es igual a el coeficiente de Chernoff en este caso.