Towards a framework for challenging ML-based decisions
Vers un cadre générique pour contester des décisions basées sur l'apprentissage
Résumé
The goal of the work presented in this paper is to provide techniques to challenge the results of an algorithmic decision system relying on machine learning. We highlight the differences between explanations and justifications and outline a framework to generate evidence to support or to dismiss challenges. We also present the results of a preliminary study to assess users' perception of the different types of challenges proposed here and their benefits to detect incorrect results.
Cet article présente des techniques pour contester les résultats d'un système algorithmique de décision basé sur l'apprentissage. Nous soulignons les différences entre les explications et les justifications et proposons un cadre pour générer des preuves afin de supporter ou de rejeter une contestation. Enfin, nous présentons les résultats préliminaires d'une étude utilisateur afin d'évaluer la perception des différents type de contestation ainsi que le bénéfice du système pour détecter des résultats incorrect.
Domaines
Informatique [cs]
Origine : Fichiers produits par l'(les) auteur(s)
Loading...