Contact
communication [at] ens-paris-saclay.fr (communication)

Représentations Convolutives Parcimonieuses

Thomas Moreau, doctorant au Centre de Mathématiques et Leurs Applications, ENS Paris-Saclay, soutiendra sa thèse consacrée aux "Représentations Convolutives Parcimonieuses : application aux signaux physiologiques et interpétabilité de l'apprentissage profond", le 19 décembre prochain.
Ajouter à mon agenda 2024-03-29 06:32:49 2024-03-29 06:32:49 Représentations Convolutives Parcimonieuses Thomas Moreau, doctorant au Centre de Mathématiques et Leurs Applications, ENS Paris-Saclay, soutiendra sa thèse consacrée aux "Représentations Convolutives Parcimonieuses : application aux signaux physiologiques et interpétabilité de l'apprentissage profond", le 19 décembre prochain. Bâtiment Laplace, Salle Renaudeau ENS-PARIS-SACLAY webmaster@ens-paris-saclay.fr Europe/Paris public

Les représentations convolutives extraient des motifs récurrents qui aident à comprendre la structure locale dans un jeu de signaux. Elles sont adaptées pour l'analyse des signaux physiologiques, qui nécessite des visualisations mettant en avant les informations pertinentes. Ces représentations sont aussi liées aux modèles d'apprentissage profond. Dans ce manuscrit, nous décrivons des avancées algorithmiques et théoriques autour de ces modèles.

Nous montrons d'abord que l'Analyse du Spectre Singulier permet de calculer efficacement une représentation convolutive. Cette représentation est dense et nous décrivons une procédure automatisée pour la rendre plus interprétable. Nous proposons ensuite un algorithme asynchrone, pour accélérer le codage parcimonieux convolutif. Notre algorithme présente une accélération super-linéaire.

Dans une seconde partie, nous analysons les liens entre représentations et réseaux de neurones. Nous proposons une étape d'apprentissage supplémentaire, appelée "post-entraînement", qui permet d'améliorer les performances du réseau entraîné, en s'assurant que la dernière couche soit optimale. Puis nous étudions les mécanismes qui rendent possible l'accélération du codage parcimonieux avec des réseaux de neurones. Nous montrons que cela est lié à une factorisation de la matrice de Gram du dictionnaire.

Finalement, nous illustrons l'intérêt de l'utilisation des représentations convolutives pour les signaux physiologiques. L'apprentissage de dictionnaire convolutif est utilisé pour résumer des signaux de marche et le mouvement du regard est soustrait de signaux oculométriques avec l'Analyse du Spectre Singulier.