Lo que se quiere decir aquí es más en el ámbito de ciencias de la computación de la matemática pura, por lo que si usted no tiene un fuerte equipo de fondo puede ayudar a leer la entrada de la Wiki en la Computación en Paralelo. Básicamente, un algoritmo paralelo es usada para permitir que múltiples núcleos de procesador actuar al mismo tiempo en lugar de un solo núcleo que actúa solo. La eficiencia de un algoritmo paralelo se basa en una medición de tiempo paralelo, que se define como el tiempo que tarda el algoritmo paralelo para ejecutar. Para ser considerado eficiente, el algoritmo debe satisfacer: $$T_{sequential} \approx T_{parallel} * N_{cores}$$
Donde $T_{sequential}$ es el tiempo de ejecución de mejor conocido algoritmo de serie.
La eficiencia del algoritmo paralelo que se hace referencia es dada en términos de poli-logarítmico tiempo: $O (\log^c(n))$ donde c es una constante y n es el tamaño del conjunto de datos. Consulte el artículo de Wiki en el tiempo de complejidad para una explicación más detallada de poli-logarítmica (y otros) escalas de tiempo.
También es interesante observar que los algoritmos iterativos, tales como el método de Newton son generalmente considerados inherentemente serie, es decir, bastante difícil (eficiente) paralelizar.