Próximos pasos tras "Razonamiento bayesiano y aprendizaje automático"

Question

Actualmente estoy leyendo "Bayesian Reasoning and Machine Learning" de David Barber y es un libro extremadamente bien escrito y atractivo para aprender los fundamentos. Así que una pregunta para alguien que ya ha hecho esto. ¿Cuáles son los siguientes libros que debería leer una vez que tenga un dominio razonable de la mayoría de los conceptos de Barber?

Answer 1

No había oído hablar del libro de Barber antes, pero habiendo echado un vistazo rápido, parece muy, muy bueno.

A no ser que tengas un campo concreto en el que quieras profundizar, te sugiero los siguientes (algunos/muchos de los cuales probablemente ya hayas oído hablar):

• Teoría de la información, inferencia y algoritmos de aprendizaje, por D.J.C Mackay. Un clásico, y el autor pone a disposición un .pdf de forma gratuita en Internet, así que no tienes excusa.
• Reconocimiento de patrones y aprendizaje automático, por C.M.Bishop. Se cita con frecuencia, aunque parece que hay mucho cruce entre éste y el libro de Barber.
• La teoría de la probabilidad, la lógica de la ciencia, por E.T.Jaynes. En algunas áreas quizás un poco más básicas. Sin embargo, las explicaciones son excelentes. Me ha aclarado un par de malentendidos que ni siquiera sabía que tenía.
• Elementos de la teoría de la información, por T.M. Cover y J.A.Thomas. Ataca la probabilidad desde la perspectiva de, sí, lo has adivinado, la teoría de la información. Algunas cosas muy interesantes sobre la capacidad del canal y la máxima ent. Un poco diferente del material más bayesiano (sólo recuerdo haber visto un prior en todo el libro).
• Teoría del aprendizaje estadístico, por V.Vapnik. No es nada bahiano, lo que puede no gustarte. Se centra en el límite superior probabilístico del riesgo estructural. Explica el origen de las máquinas de vectores de apoyo.
• Sir Karl Popper produjo una serie de trabajos sobre la filosofía del descubrimiento científico, en los que aparecen bastantes estadísticas (se pueden comprar colecciones de ellos, pero no tengo ningún título a mano -disculpas-). De nuevo, no es bayesiano en absoluto, pero su discusión sobre la falsabilidad y su relación con la navaja de occams es (en mi opinión) fascinante, y debería ser leída por cualquiera que se dedique a la ciencia.

Answer 2

Recientemente he encontrado una perspectiva más computacional razonamiento bayesiano y la estadística: "Programación probabilística y métodos bayesianos para hackers" . Esta es probablemente una introducción a los métodos bayesianos tan buena como la de Barber.