Conceptualmente, cada pequeña pieza de un objeto contribuye a que el momento de inercia total. Cada pequeña pieza de un objeto se compone de un volumen de la materia, de manera que cada pieza tiene algunas pequeñas de masa, $$\delta m = \rho\left(\vec{r}\right) \delta V.$$
$\rho\left(\vec{r}\right)$ es una función de densidad de cuyo valor depende de la posición de cada una de las $\delta m$.
Sin entrar en el tensor de cálculos, es decir, mantener las cosas simples, cada una de las $\delta m$ tiene una contribución para el momento de inercia alrededor de algún eje, $$\delta I = \delta m R_{\perp}^2$$
donde $R_{\perp}$ es la distancia perpendicular desde el eje de interés. (Es un poco más complicado que eso, pero la diferencia no es importante para esta pregunta.) $R_{\perp}$ es un valor determinado en función de cada $\delta m$. La suma que quieres hacer se considera cada $\delta m$, no cada una de las $R_{\perp}$. (En ciertas simetrías, la suma puede ser simplificado, pero usted me preguntó sobre el conceptual razón para sumar más de las masas.)
Como reducir el volumen de $\delta V$ a un infinitesimal d$V$, la masa de $\delta m$ se convierte en d$m$, pero la distancia específica desde el eje $R_{\perp}$ no cambia en absoluto! Y así, $$\delta I \to \text{d}I = \text{d}m R_{\perp}^2 = \text{d}V \rho\left(\vec{r}\right) R_{\perp}^2.$$
La integración de este en todo el volumen, se agrega la contribución individual de cada pequeño volumen de la materia.