Offre de thèse : Architectures neuronales auto-organisatrices bio-inspirées

Contact

Bernard Girau (Bernard.Girau@loria.fr)
Equipe : BISCUIT, LORIA

Mots-clés

réseaux de neurones, auto-organisation, champs neuronaux, circuits reconfigurables

Contexte

Dans le contexte d’une collaboration allant des neurosciences computationnelles à la conception de circuits multi-coeurs reconfigurables, le but principal de cette thèse est d’étudier l’apport possible des principes de plasticité structurelle neuronale dans le cadre de la conception d’architectures de calcul, en se focalisant sur la définition de modèles neuro-cellulaires capables d’apprendre à la fois à représenter les données fournies et à adapter leur structure sous-jacente à des contraintes matérielles.

Sujet

Tandis que la quête pour des systèmes de calcul se confronte à des contraintes de ressources, des avancées majeures en terme d’efficacité de calcul sont supposées bénéficier d’approches non conventionnelles et de nouveaux modèles de calcul tels que le calcul inspiré du cerveau. Le cerveau est une architecture de calcul massivement parallèle avec des interconnexions denses entre les unités de calcul. Son organisation structurelle est déjà une source d’inspiration de plusieurs circuits intégrés neuromorphiques, mais plusieurs propriétés dynamiques du calcul du cerveau n’ont pas vraiment été explorées du point de vue d’une architecture matérielle de calcul. Nous sommes intéressés par la conception d’architectures de calcul adaptables et dynamiques, en profitant de principes d’auto-organisation inspirés par le cerveau. Des modèles neuronaux auto-organisés ont déjà été étudiés, en particulier pour les tâches de quantification vectorielle. Cependant, les modèles d’auto-organisation neuronale existants sont trop limités dans le cadre d’un projet d’architecture auto-organisatrice, car ils dépendent d’une topologie prédéfinie et ne prennent pas en compte les coûts de communication ni la connectivité afférente. Par conséquent, la transcription des principes d’auto-organisation au niveau matériel n’est pas simple et nécessite de relever plusieurs défis. Le premier défi est d’étendre les mécanismes habituels d’auto-organisation pour tenir compte du double niveau de calcul et de communication dans une architecture matérielle neuromorphique. D’un point de vue biologique, cela correspond à une combinaison de ce qu’on appelle les plasticités neuronales synaptique et structurelle. La plasticité structurelle n’a guère été étudiée dans la plupart des modèles auto-organisateurs car d’une part, une telle connectivité latérale dynamique explicite coûte cher et d’autre part, les règles exactes régissant la croissance ou l’élagage des connexions restent mal connues. En collaboration avec des chercheurs impliqués dans la définition de modèles informatiques du cerveau biologique, la première partie de ce projet de thèse consistera à :

– étendre les capacités existantes des modèles neuronaux auto-organisateurs afin que des mécanismes bio-inspirés de plasticité structurelle soient ajoutés aux mécanismes plus habituels de la plasticité synaptique
– interpréter la classification résultante en termes de besoins de communication parmi les unités de calcul de l’architecture auto-organisée

En outre, nous voulons que nos modèles soient tolérants aux pannes et évolutifs. Etant donné que ces propriétés émergent de cartes neuronales à grande échelle et entièrement connectées, nous nous concentrerons sur la définition d’une architecture matérielle numérique auto-organisée basée sur les neurones impulsionnels qui offrent une bonne efficacité matérielle. Nous voulons également que nos modèles soient compatibles avec les contraintes matérielles, grâce à un substrat de calcul neuro-cellulaire. L’objectif de la deuxième partie de ce projet de thèse est donc d’adapter les modèles auto-organisateurs multiniveaux qui dériveront de notre approche bio-inspirée aux contraintes d’un substrat de calcul cellulaire utilisant des impulsions neuronales (spikes). Le principal défi est ici de définir des règles purement locales de plasticité structurelle dans ces modèles, par exemple en utilisant des mécanismes de type Hebb/STDP pour la plasticité synaptique aussi bien que pour la plasticité structurelle dans nos modèles neuro-cellulaires.

Profil et compétences recherchées

Le candidat devra avoir un Master en informatique ou un titre équivalent, de préférence dans une spécialité en lien avec l’intelligence artificielle et/ou le calcul numérique distribue et/ou le calcul bio-inspiré. Une connaissance adéquate de la conception matérielle numérique sera appréciée, ainsi qu’une expérience en conception logicielle. Le candidat doit parler couramment anglais et/ou français.

Références
[1] M. Sipper, “The emergence of cellular computing,” Computer, vol. 32, no. 7, pp. 18–26, 1999.
[2] T. Kohonen, “Self-organized formation of topologically correct feature maps,” Biological Cybernetics, vol. 43, 1982.
[3] B. Chappet De Vangel and B. Girau, “Stochastic and asynchronous spiking dynamic neural felds,” in International Joint
Conference on Neural Networks, IJCNN, 2015.
[4] A. Upegui, Y. Thoma, A. Perez-Uribe, and E. Sanchez, “Dynamic routing on the ubichip: Toward synaptogenetic neural
networks,” in Adaptive Hardware and Systems. IEEE, 2008, pp. 228–235.
[5] L. Rodriguez, B. Miramond, and B. Granado, “Toward a sparse self-organizing map for neuromorphic architectures,” ACM
Journal on Emerging Technologies in Computing Systems, vol. 11, no. 4, p. 33, Apr. 2015.
[6] T. Rumbell, S. Denham, and T. Wennekers, “A Spiking Self-Organising Map Combining STDP, Oscillations and Continuous
Learning,” IEEE TRANSACTIONS ON NEURAL NETWORKS AND LEARNING SYSTEMS, vol. 5, 2014.

En ce moment

Logo du CNRS
Logo Inria
Logo Université de Lorraine