Prédiction de la précision d'apprentissage des réseaux de neurones convolutifs par mesure du chaos - Inria - Institut national de recherche en sciences et technologies du numérique Access content directly
Conference Papers Year : 2023

Prédiction de la précision d'apprentissage des réseaux de neurones convolutifs par mesure du chaos

Abstract

Apprendre sur les données codées avec un codeur entropique présente de nombreux avantages : cela permet d'éviter de décoder tout en ayant des données de taille plus faible à traiter. Pourtant cette manière d'apprendre n'a pas été explorée à cause du chaos introduit par les codeurs entropiques. En effet, la pièce centrale des algorithmes d'apprentissage profond, la convolution a besoin que la fonction d'encodage préserve la distance entre les pixels (proximité spatiale), ainsi que la distance entre les valeurs de ces mêmes pixels (proximité sémantique). Même si ces deux propriétés ne sont pas satisfaites par les codeurs entropiques, nous avons montré précédemment que l'apprentissage sur des données codées par un codeur entropique est possible et que la précision de cet apprentissage dépend du respect de ces proximités. Dans ce papier nous mesurons cette dépendance et introduisons une nouvelle métrique qui mesure le chaos dans une représentation de données. Cette mesure est facile à calculer, car elle ne dépend que des données codées. Cette dernière nous permet de prédire la précision de notre apprentissage sur les données codées.
Fichier principal
Vignette du fichier
gretsi2023-2.pdf (233.1 Ko) Télécharger le fichier
Origin : Files produced by the author(s)

Dates and versions

hal-04384164 , version 1 (10-01-2024)

Identifiers

  • HAL Id : hal-04384164 , version 1

Cite

Rémi Piau, Thomas Maugey, Aline Roumy. Prédiction de la précision d'apprentissage des réseaux de neurones convolutifs par mesure du chaos. GRETSI 2023, Aug 2023, Grenoble, France. ⟨hal-04384164⟩
23 View
16 Download

Share

Gmail Facebook X LinkedIn More