En cierto sentido, no existe una estadística sin "parámetros" y "modelos". Se trata de un etiquetado arbitrario hasta cierto punto, dependiendo de lo que se reconozca como "modelo" o "parámetro". Los parámetros y los modelos son básicamente formas de traducir las suposiciones y los conocimientos sobre el mundo real en un sistema matemático. Pero esto es válido para cualquier algoritmo matemático. Hay que convertir de algún modo el problema del mundo real en el marco matemático que se pretende utilizar para resolverlo.
Utilizar una distribución de probabilidad asignada según algún principio es una forma de realizar esta conversión de forma sistemática y transparente. Los mejores principios que conozco son el principio de máxima entropía (MaxEnt) y el principio de los grupos de transformación (que creo que también podría llamarse principio de "invariancia" o "problema-indiferencia").
Una vez asignadas, puede utilizar la teoría de la probabilidad bayesiana para manipular de forma coherente estas probabilidades de "entrada", que contienen su información y sus suposiciones, y convertirlas en probabilidades de "salida", que le indican el grado de incertidumbre presente en el análisis que le interesa.
Se pueden encontrar algunas introducciones desde la perspectiva de Bayes/MaxEnt descrita anteriormente aquí , aquí y aquí . Se basan en la interpretación de la probabilidad como una extensión de la lógica deductiva. Están más en el lado teórico de las cosas.
Como nota final, recomiendo estos métodos principalmente porque me parecen más atractivos; no se me ocurre una buena razón teórica para renunciar a los comportamientos normativos que subyacen a la lógica de Bayes/MaxEnt. Por supuesto, es posible que usted no esté tan convencido como yo, y se me ocurren algunos compromisos prácticos en torno a la viabilidad y las limitaciones del software. La estadística en el "mundo real" a menudo depende de la ideología a la que te aproximes (aprox. Bayes vs. aprox. Máxima Verosimilitud vs. aprox. basada en el diseño) o de la ideología que entiendas y seas capaz de explicar a tus clientes.