¿Por qué el tiempo de acceso a la RAM (de cualquier tipo) disminuye tan lentamente?

Question

Este muestra que la SDRAM DDR4 tiene aproximadamente 8 veces más ancho de banda que la SDRAM DDR1. Pero el tiempo que transcurre desde que se establece la dirección de la columna hasta que los datos están disponibles sólo ha disminuido en un 10% (13,5ns). Una búsqueda rápida muestra que el tiempo de acceso de la asíncrona más rápida SRAM (18 años) es de 7ns. ¿Por qué ha disminuido tan lentamente el tiempo de acceso de la SDRAM? ¿La razón es económica, tecnológica o fundamental?

Answer 1

Es porque es más fácil y barato aumentar el ancho de banda de la DRAM que disminuir la latencia. Para obtener los datos de una fila abierta de la ram, es necesario un trabajo no trivial.

Hay que decodificar la dirección de la columna, accionar los muxes que seleccionan las líneas a las que hay que acceder y hacer que los datos se desplacen por el chip hasta los búferes de salida. Esto lleva un poco de tiempo, sobre todo teniendo en cuenta que los chips SDRAM se fabrican en un proceso adaptado a altas densidades de ram y no a altas velocidades lógicas. Para aumentar el ancho de banda, por ejemplo, utilizando DDR(1,2,3 o 4), la mayor parte de la lógica puede ampliarse o canalizarse, y puede funcionar a la misma velocidad que en la generación anterior. Lo único que tiene que ser más rápido es el controlador de E/S para los pines DDR.

En cambio, para disminuir la latencia hay que acelerar toda la operación, lo que es mucho más difícil. Lo más probable es que haya que fabricar partes de la ram en un proceso similar al de las CPU de alta velocidad, lo que aumentaría el coste de forma sustancial (el proceso de alta velocidad es más caro, además de que cada chip tiene que pasar por 2 procesos diferentes).

Si comparamos las cachés de la CPU con la RAM y el disco duro/SSD, existe una relación inversa entre que el almacenamiento sea grande y que sea rápido. Un L1$ es muy rápido, pero sólo puede contener entre 32 y 256kB de datos. La razón por la que es tan rápido es porque es pequeño:

• Puede colocarse muy cerca de la CPU que lo utiliza, lo que significa que los datos tienen que recorrer una distancia más corta para llegar a él
• Los cables se pueden acortar, lo que significa que los datos tardan menos en viajar a través de ellos.
• No ocupa mucha superficie ni muchos transistores, por lo que hacerlo en un proceso de velocidad optimizada y utilizando mucha energía por bit almacenado no es tan caro

A medida que se asciende en la jerarquía, cada opción de almacenamiento aumenta su capacidad, pero también su superficie y se aleja del dispositivo que lo utiliza, lo que significa que éste debe ser más lento.

Answer 2

C_Elegans proporciona una parte de la respuesta: es duro para disminuir la latencia global de un ciclo de memoria.

La otra parte de la respuesta es que en los modernos sistemas de memoria jerárquica (múltiples niveles de caché), la memoria ancho de banda tiene una influencia mucho mayor en el rendimiento general del sistema que la memoria latencia y es ahí donde se han centrado los últimos esfuerzos de desarrollo.

Esto es cierto tanto en la informática general, donde muchos procesos/hilos se ejecutan en paralelo, como en los sistemas integrados. Por ejemplo, en el trabajo de vídeo de alta definición que hago, no me importan las latencias del orden de los milisegundos, pero sí necesito varios gigabytes/segundo de ancho de banda.

Answer 3

No tengo tanta idea, pero supongo que es un poco de todo.

Economía

Para la mayoría de los ordenadores/teléfonos, la velocidad es más que suficiente. Para el almacenamiento de datos más rápido, se han desarrollado las SSD. La gente puede utilizar vídeo/música y otras tareas que requieren mucha velocidad en tiempo (casi) real. Así que no hay tanta necesidad de más velocidad (excepto para aplicaciones específicas como la predicción del tiempo, etc.).

Otra razón es que para procesar una velocidad de RAM muy alta, se necesitan CPUs que sean rápidas. Y esto conlleva un gran consumo de energía. La tendencia a utilizarlos en dispositivos con batería (como los teléfonos móviles), impide el uso de RAM (y CPU) muy rápidas, por lo que tampoco es económicamente útil fabricarlas.

Técnica

Al disminuir el tamaño de los chips/ICs (nivel de nm ahora), la velocidad sube, pero no significativamente. Se utiliza más a menudo para aumentar la cantidad de RAM, que se necesita más (también una razón económica).

Fundamental

Como ejemplo (ambos son circuitos): la forma más fácil de obtener más velocidad (utilizada por los SSD), es simplemente repartir la carga entre varios componentes, de esta forma la velocidad de "procesamiento" también se suma. Compara el uso de 8 memorias USB leyendo al mismo tiempo y combinando los resultados, en lugar de leer los datos de una memoria USB tras otra (tarda 8 veces más).