Nous nous intéressons à la combinaison de méthodes d'apprentissage à base de moindres généralisés et de techniques d'inférence de boules de mots, appliquée à la classification de séquences. Nous montrons que cette intégration n'est pas directe et qu'elle nécessite un travail de compréhension des moindres généralisés et des algorithmes nouveaux pour produire des boules de mots. L'apprenant résultant de cette démarche est ensuite évalué expérimentalement sur des données classiques de l'inférence grammaticale et sur un jeu de données réel. Dans les deux cas, notre approche se montre compétitive avec les meilleurs algorithmes connus.