A broadly applicable algorithm for computing maximum likelihood estimates from incomplete data is presented at various levels of generality. Theory showing the monotone behaviour of the likelihood and convergence of the algorithm is derived. Many examples are sketched, including missing value situations, applications to grouped, censored or truncated data, finite mixture models, variance component estimation, hyperparameter estimation, iteratively reweighted least squares and factor analysis.
Notas/Comentarios de Juan Ignacio Godino:
Si bien hay referencias anteriores que sugieren su potencial utilidad, ésta es la referencia fundamental que formaliza el algoritmo de Maximización de Expectativas (Expectation-Maximization -EM) y que proporciona una prueba de convergencia del mismo. El algoritmo EM es un enfoque ampliamente utilizado para el cálculo iterativo de estimaciones de máxima verosimilitud. Las situaciones en las que se puede aplicar el algoritmo EM incluyen datos incompletos, distribuciones truncadas, observaciones censuradas o agrupadas, y toda una variedad de situaciones en las que la incoherencia de los datos no es tan natural o evidente. El algoritmo EM es la base del entrenamiento de los modelos generativos de mezclas de Gaussianas, ampliamente utilizados en procesado de señal para modelar las funciones densidad de probabilidad subyacentes.
Si bien hay referencias anteriores que sugieren su potencial utilidad, ésta es la referencia fundamental que formaliza el algoritmo de Maximización de Expectativas (Expectation-Maximization -EM) y que proporciona una prueba de convergencia del mismo. El algoritmo EM es un enfoque ampliamente utilizado para el cálculo iterativo de estimaciones de máxima verosimilitud. Las situaciones en las que se puede aplicar el algoritmo EM incluyen datos incompletos, distribuciones truncadas, observaciones censuradas o agrupadas, y toda una variedad de situaciones en las que la incoherencia de los datos no es tan natural o evidente. El algoritmo EM es la base del entrenamiento de los modelos generativos de mezclas de Gaussianas, ampliamente utilizados en procesado de señal para modelar las funciones densidad de probabilidad subyacentes.
Especificaciones
- Autor/es: A.P.Dempster, N.M.Laird, D.B.Rubin.
- Fecha: 1977-09
- Publicado en: Journal of the Royal Statistical Society. Series B (Methodological), Vol. 39, No. 1. (September, 1977), pp.1-22. Pages 22-38 contain 'Discussion on the Paper by Professor Dempster et al.'
- Idioma: Inglés
- Formato: PDF
- Contribución: Juan Ignacio Godino Llorente.
- Palabras clave: Inteligencia computacional y artificial, Ordenadores y tratamiento de la información, Proceso de señal