Using prototypes to improve convolutional networks interpretability

Thalita Drumond 1, 2, 3 Thierry Viéville 1, 2, 3 Frédéric Alexandre 1, 2, 3
1 Mnemosyne - Mnemonic Synergy
LaBRI - Laboratoire Bordelais de Recherche en Informatique, Inria Bordeaux - Sud-Ouest, IMN - Institut des Maladies Neurodégénératives [Bordeaux]
Abstract : We propose a method that allows the interpretation of the data representation obtained by CNN, through introducing prototypes in the feature space, that are later classified into a certain category. This way we can see how the feature space is structured in link with the categories and the related task.
Type de document :
Communication dans un congrès
31st Annual Conference on Neural Information Processing Systems: Transparent and interpretable machine learning in safety critical environments Workshop, Dec 2017, Long Beach, United States
Liste complète des métadonnées

Littérature citée [23 références]  Voir  Masquer  Télécharger

https://hal.inria.fr/hal-01651964
Contributeur : Thierry Viéville <>
Soumis le : mercredi 29 novembre 2017 - 17:32:58
Dernière modification le : jeudi 11 janvier 2018 - 06:25:42

Fichier

main_NIPS_2017.pdf
Fichiers produits par l'(les) auteur(s)

Identifiants

  • HAL Id : hal-01651964, version 1

Collections

Citation

Thalita Drumond, Thierry Viéville, Frédéric Alexandre. Using prototypes to improve convolutional networks interpretability. 31st Annual Conference on Neural Information Processing Systems: Transparent and interpretable machine learning in safety critical environments Workshop, Dec 2017, Long Beach, United States. 〈hal-01651964〉

Partager

Métriques

Consultations de la notice

73

Téléchargements de fichiers

41