Fast imbalanced binary classification: a moment-based approach
Résumé
In this paper, we consider the problem of imbalanced binary classification in which the number of negative examples is much larger than the number of positive examples. The two mainstream methods to deal with such problems are to assign different weights to negative and positive points or to subsample points from the negative class. In this paper, we propose a different approach: we represent the negative class by the two first moments of its probability distribution (the mean and the covariance), while still modeling the positive class by individual examples. Therefore, our formulation does not depend on the number of negative examples, making it suitable to highly imbalanced problems and scalable to large datasets. We demonstrate empirically, on a protein classification task and a text classification task, that our approach achieves similar statistical performance than the two mainstream approaches to imbalanced classification problems, while being more computationally efficient.
Domaines
Apprentissage [cs.LG]
Fichier principal
tech_report.pdf (285.25 Ko)
Télécharger le fichier
geom.pdf (8.42 Ko)
Télécharger le fichier
phost.pdf (18.95 Ko)
Télécharger le fichier
phosy.pdf (19.46 Ko)
Télécharger le fichier
topic2.pdf (19.3 Ko)
Télécharger le fichier
topic25.pdf (18.89 Ko)
Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)
Origine : Fichiers produits par l'(les) auteur(s)
Origine : Fichiers produits par l'(les) auteur(s)
Origine : Fichiers produits par l'(les) auteur(s)
Origine : Fichiers produits par l'(les) auteur(s)
Origine : Fichiers produits par l'(les) auteur(s)