Adaptation d'approches connexionnistes non supervisées pour l'analyse de contenus d'images et de sons
Adaptation of unsupervised connectionist approaches for the analysis of image and sound contents
Résumé
The human brain is capable of processing a vast amount of sensory information in a very efficient way and combining it in a way that allows it to draw logical conclusions. It can also learn and adapt according to its experience. This wealth of information has fascinated mankind since antiquity, and he has always sought to understand the secrets of human cognition. This field, better known today as cognitive neuroscience, is an open playing field thanks to the advances of various mathematical models of connectionist mechanisms. Through this thesis work, we aim to study the behavior of these connectionist approaches, trained in an unsupervised manner, on the generation of image and audio data representations. More specifically, we are interested in spiking neural networks, which have some theoretical advantages such as fine-grained processing of temporal data and low energy consumption, as opposed to artificial neural networks, which are widely used nowadays. We are also interested in the adaptation of the models at different scales: from their general topology to the understanding of elements allowing to obtain better performances on the classification of representations. The first part presents the functioning of the biological neuron up to its computational modeling in order to be inspired to generate representations of our data. However, the scarcity of these approaches in the field of applied computing forces us to develop our own simulator to validate different models developed in neurocomputational research, thus showing the hard reality of learning them. Finally, this difficulty led us to adapt our models to accept recent learning strategies present in the field of deep learning, in particular self-supervised learning. Due to the diversity and sensitivity of hyperparameters present in connectionist models, the second part of our study focuses on understanding how to adapt components of a system to improve its performance. In other words, we are looking for insights to facilitate our decision on the choice of values to set for any hyperparameters or the definition of new cost functions. To facilitate the study, we place ourselves in the framework of a linear model of classification of the extracted representations, to then study on the one hand an important hyperparameter playing on the final performance of the model: the temperature, and on the other hand a larger task such as the understanding of the accuracy of a model. For this, a generalizable processing chain is proposed to extract a heuristic on the temperature. Then, by adding a symbolic regression module, we were able to show that our results are explainable and consistent with decades of research.
Le cerveau humain est capable de traiter temporellement une vaste quantité d'informations sensorielles très efficacement et de les combiner de manières à en tirer des conclusions logiques. Il peut également apprendre et s'adapter en fonction de son expérience. Cette richesse fait que, depuis l'Antiquité, l'Homme est fasciné par les secrets de la cognition humaine et cherche à les comprendre. Ce domaine, plus connu de nos jours sous le terme de neurosciences cognitives, est un terrain de jeu ouvert grâce aux avancées des différentes modélisations mathématiques des mécanismes connexionnistes. À travers ces travaux de thèse, nous cherchons à étudier le comportement de ces approches connexionnistes, formé de manière non supervisée, sur la génération de représentations de données images et audios. Plus particulièrement, nous nous intéressons aux réseaux de neurones impulsionnels qui présentent certains avantages théoriques comme le traitement fin de données temporelles et une consommation énergétique maitrisée, à l'opposé des réseaux de neurones artificiels très utilisé de nos jours. Nous nous intéressons également à l'adaptation des modèles à différentes échelles : de leur topologie générale à la compréhension d'éléments permettant d'obtenir de meilleures performances sur la classification des représentations. La première partie présente le fonctionnement du neurone biologique jusqu'à sa modélisation computationnelle afin de s'en inspirer pour générer des représentations de nos données. Cependant, la rareté de ces approches dans le domaine de l'informatique appliquée nous oblige à développer notre propre simulateur pour valider différents modèles développés dans la recherche neurocomputationelle, montrant ainsi la dure réalité d'apprentissage de ces derniers. Enfin, cette difficulté nous a conduits à adapter nos modèles pour accepter des récentes stratégies d'apprentissage présent dans le domaine de l'apprentissage profond, en particulier l'apprentissage auto-supervisé. En raison de la diversité et de la sensibilité des hyperparamètres présents dans les modèles connexionnistes, la seconde partie de notre étude se focalise à comprendre comment adapter des composants d'un système pour améliorer ses performances. En d'autres termes, nous cherchons des intuitions permettant de faciliter notre décision sur le choix des valeurs à fixer pour des hyperparamètres quels qu'ils soient ou la définition de nouvelles fonctions de coût. Pour faciliter l'étude, nous nous plaçons dans le cadre d'un modèle linéaire de classification des représentations extraites, pour ensuite étudier d'une part un hyperparamètre important jouant sur la performance finale du modèle : la température, puis sur une tâche plus large telle que la compréhension de la performance d'un modèle. Pour cela, une chaîne de traitement généralisable est proposée afin d'extraire une heuristique sur la température. Puis, en y ajoutant un module de régression symbolique, nous avons pu montrer que nos résultats sont explicables et en adéquation avec des décennies de recherche.
Infos complémentaires
-
Identifiant HAL : 2023TOU30104
-
degree committee member :
-
Langue originale :français
-
Date de la thèse : 2023-05-16
-
Informations sur la thèse : Domaine : Humanities and Social Sciences/Library and information sciences
-
Institution :
-
Accès : Distributed under a Creative Commons Attribution 4.0 International License
FAQ
Liens FAQ