¿Generar pesos distribuidos uniformemente que sumen a la unidad?

Question

Es común utilizar pesos en aplicaciones como el modelado de mezclas y combinar linealmente funciones de base. Los pesos $w_i$ a menudo deben obedecer $w_i \geq 0$ y $\sum_{i} w_i = 1$. Me gustaría elegir al azar un vector de pesos $\mathbf{w} = (w_1, w_2, …)$ de una distribución uniforme de tales vectores.

Puede ser tentador usar $w_i = \frac{\omega_i}{\sum_{j} \omega_j}$ donde $\omega_i \sim$ U(0, 1), sin embargo, como se discute en los comentarios a continuación, la distribución de $\mathbf{w}$ no es uniforme.

Sin embargo, dado el constraint $\sum_{i} w_i=1$, parece que la dimensionalidad subyacente del problema es $n-1$, y debería ser posible elegir un $\mathbf{w}$ eligiendo $n-1$ parámetros según alguna distribución y luego calculando el $\mathbf{w}$ correspondiente a partir de esos parámetros (porque una vez que se especifican $n-1$ de los pesos, el peso restante está completamente determinado).

El problema parece ser similar al problema de selección de puntos en una esfera (pero, en lugar de elegir vectores tridimensionales cuya norma $_2$ sea unidad, quiero elegir vectores $n$-dimensionales cuya norma $_1$ sea unidad).

¡Gracias!

Answer 1

Elige $\mathbf{x} \in [0,1]^{n-1}$ de manera uniforme (mediante $n-1$ números reales uniformes en el intervalo $[0,1]$). Ordena los coeficientes de manera que $0 \le x_1 \le \cdots \le x_{n-1}$. Define

$$\mathbf{w} = (x_1, x_2-x_1, x_3 - x_2, \ldots, x_{n-1} - x_{n-2}, 1 - x_{n-1}).$$

Ya que podemos recuperar los $x_i$ ordenados mediante las sumas parciales de los $w_i$, la transformación $\mathbf{x} \to \mathbf{w}$ es de $(n-1)!$ a 1; en particular, su imagen es el símplice $n-1$ en $\mathbb{R}^n$. Debido a que (a) cada intercambio en una ordenación es una transformación lineal, (b) la fórmula anterior es lineal y (c) las transformaciones lineales preservan la uniformidad de las distribuciones, la uniformidad de $\mathbf{x}$ implica la uniformidad de $\mathbf{w}$ en el símplice $n-1$. En particular, hay que tener en cuenta que los márgenes de $\mathbf{w}$ no son necesariamente independientes.

Este gráfico de puntos 3D muestra los resultados de 2000 iteraciones de este algoritmo para $n=3$. Los puntos están confinados al símplice y están distribuidos de manera aproximadamente uniforme sobre él.

---

Dado que el tiempo de ejecución de este algoritmo es de $O(n \log(n)) \gg O(n)$, es ineficiente para valores grandes de $n$. ¡Pero esto responde la pregunta! Una mejor manera (en general) de generar valores distribuidos de manera uniforme en el símplice $n-1$ es elegir $n$ números reales uniformes $(x_1, \ldots, x_n)$ en el intervalo $[0,1]$, y computar

$$y_i = -\log(x_i)$$

(lo cual hace que cada $y_i$ sea positivo con probabilidad $1$, por lo tanto su suma es casi seguramente distinta de cero) y definir

$$\mathbf w = (y_1, y_2, \ldots, y_n) / (y_1 + y_2 + \cdots + y_n).$$

Esto funciona porque cada $y_i$ tiene una distribución $\Gamma(1)$, lo que implica que $\mathbf w$ tiene una distribución Dirichlet$(1,1,1)$ - y eso es uniforme.

Answer 2

    zz <- c(0, log(-log(runif(n-1))))
    ezz <- exp(zz)
    w <- ezz/sum(ezz)

La primera entrada se pone a cero para identificación; verías que se hace en modelos logísticos multinomiales. Por supuesto, en modelos multinomiales, también tendrías covariables bajo los exponentes, en lugar de solo los zz aleatorios. La distribución de los zz es la distribución de valores extremos; necesitarías esto para garantizar que los pesos resultantes sean i.i.d. Inicialmente puse números aleatorios del tipo rnorm allí, pero luego tuve un presentimiento de que esto no iba a funcionar.

Answer 3

La solución es obvia. El siguiente código de MathLab proporciona la respuesta para 3 pesos.

function [  ] = TESTGEN( )
SZ  = 1000;
V  = zeros (1, 3);
VS = zeros (SZ, 3);
for NIT=1:SZ   
   V(1) = rand (1,1);     % generación uniforme en el rango 0..1
   V(2) = rand (1,1) * (1 - V(1));
   V(3) = 1 - V(1) - V(2);  
   PERM = randperm (3);    % permutación aleatoria de los valores 1,2,3
   for NID=1:3
         VS (NIT, NID) = V (PERM(NID));
    end
end 
figure;
scatter3 (VS(:, 1), VS(:,2), VS (:,3));
end