A mixture of generalized hyperbolic distributions

Abstract We introduce a mixture of generalized hyperbolic distributions as an alternative to the ubiquitous mixture of Gaussian distributions as well as their near relatives within which the mixture of multivariate t ‐distributions and the mixture of skew‐ t distributions predominate. The mathematical development of our mixture of generalized hyperbolic distributions model relies on its relationship with the generalized inverse Gaussian distribution. The latter is reviewed before our mixture models are presented along with details of the aforesaid reliance. Parameter estimation is outlined within the expectation–maximization framework before the clustering performance of our mixture models is illustrated via applications on simulated and real data. In particular, the ability of our models to recover parameters for data from underlying Gaussian and skew‐ t distributions is demonstrated. Finally, the role of generalized hyperbolic mixtures within the wider model‐based clustering, classification, and density estimation literature is discussed. The Canadian Journal of Statistics 43: 176–198; 2015 © 2015 Statistical Society of Canada Résumé Les auteurs présentent un mélange de distributions hyperboliques généralisées comme solution de rechange aux mélanges habituels basés sur la distribution gaussienne, celle de Student ou celle de Student asymétrique. Les auteurs passent en revue les propriétés de l'inverse généralisé de la distribution gaussienne puisque le développement mathématique qu'ils présentent repose sur un lien, présenté en détail, entre cet inverse généralisé et les distributions hyperboliques généralisées. Ils procèdent à l'estimation des paramètres par un algorithme d'espérance‐maximisation, puis ils illustrent la performance de leur modèle dans le cadre d'une analyse de regroupement en l'appliquant à des données simulées, ainsi qu’à un jeu de données réelles. Les auteurs démontrent la capacité de leur modèle à récupérer les paramètres des distributions sous‐jacentes lorsque celles‐ci sont gaussiennes, ou lorsqu'elles suivent une loi de Student asymétrique. Finalement, ils discutent le rôle de la distribution hyperbolique généralisée lorsqu'un modèle est utilisé pour l'analyse de regroupement, la classification ou l'estimation de la densité. La revue canadienne de statistique 43: 176–198; 2015 © 2015 Société statistique du Canada