Teoría de la información de Shannon: ¿cómo es N(t)

Question

Tengo problemas para entender las partes iniciales de "Una teoría matemática de la comunicación" de Shannon, concretamente la definición de "las secuencias de números de duración t" N(t) en la página 3. Se define como sigue:

N(t)=N(t-t1)+N(t-t2)+..+N(t-tn)

donde

todas las secuencias de los símbolos S1,...Sn están permitidas y estos símbolos tienen duraciones t1,...tn

También se afirma que

El número total es igual a la suma del número de secuencias que terminan en en S1, S2, .. , Sn y éstas son N(t-t1), N(t-t2), .. , N(t-tn), respectivamente.

Mi problema es que si tengo una única secuencia posible s1 de duración t1 = 5 y estoy en el punto de tiempo t=6, entonces N(6) sería N(1), que sería 0 aunque tengo una secuencia de duración 5 que debería estar contando. Supongo que mi forma de pensar es completamente errónea. ¿Podría alguien ayudarme?

Answer 1

La fórmula $N(t)=N(t-t_1)+N(t-t_2)+\cdots$ está suponiendo implícitamente que la franja horaria total $t$ está totalmente ocupado por una concatenación estricta (sin espacios vacíos) de símbolos.

Es cierto que esta suposición tiene algunos problemas "fronterizos" evidentes: si suponemos que tenemos dos símbolos (prefiero no considerar el caso "degenerado" de un solo símbolo) de longitudes $(3,9)$ entonces tendríamos $N(10)=0$ a pesar de tener la posibilidad de encajar un símbolo largo (o tres cortos); incluso más, $N(t)=0$ para cualquier $t$ que no sea múltiplo de $3$ . Este problema carece de importancia, ya que normalmente suponemos un "tiempo" discretizado que corresponde al máximo común divisor de $t_1, t_2 \cdots $ y estamos interesados en la asintótica a largo plazo.

Debe estudiar la solución estándar del secuencia recursiva constante y la consecuencia (utilizada en el documento) de que asintóticamente $s(n)=x_0^n$ donde $x_0$ es la raíz mayor de la ecuación característica. Ahora, te preguntarás: espera un momento, ¿y si la recursión sólo tiene términos "pares", por ejemplo $s(n)= s(n-2) + s(n-4)$ ? En este caso, la asintótica no es válida para tiempos Impares, digamos $s(1001)=0$ . Por supuesto, eso es cierto, pero también carece de importancia (en términos, de la solución como suma de exponenciales, obtenemos una cancelación en impar veces).