BEGIN:VCALENDAR
VERSION:2.0
PRODID:-//LORIA - ECPv6.17.4.1//NONSGML v1.0//EN
CALSCALE:GREGORIAN
METHOD:PUBLISH
X-ORIGINAL-URL:https://www.loria.fr
X-WR-CALDESC:Évènements pour LORIA
REFRESH-INTERVAL;VALUE=DURATION:PT1H
X-Robots-Tag:noindex
X-PUBLISHED-TTL:PT1H
BEGIN:VTIMEZONE
TZID:Europe/Paris
BEGIN:DAYLIGHT
TZOFFSETFROM:+0100
TZOFFSETTO:+0200
TZNAME:CEST
DTSTART:20220327T010000
END:DAYLIGHT
BEGIN:STANDARD
TZOFFSETFROM:+0200
TZOFFSETTO:+0100
TZNAME:CET
DTSTART:20221030T010000
END:STANDARD
BEGIN:DAYLIGHT
TZOFFSETFROM:+0100
TZOFFSETTO:+0200
TZNAME:CEST
DTSTART:20230326T010000
END:DAYLIGHT
BEGIN:STANDARD
TZOFFSETFROM:+0200
TZOFFSETTO:+0100
TZNAME:CET
DTSTART:20231029T010000
END:STANDARD
BEGIN:DAYLIGHT
TZOFFSETFROM:+0100
TZOFFSETTO:+0200
TZNAME:CEST
DTSTART:20240331T010000
END:DAYLIGHT
BEGIN:STANDARD
TZOFFSETFROM:+0200
TZOFFSETTO:+0100
TZNAME:CET
DTSTART:20241027T010000
END:STANDARD
END:VTIMEZONE
BEGIN:VEVENT
DTSTART;TZID=Europe/Paris:20230308T130000
DTEND;TZID=Europe/Paris:20230308T160000
DTSTAMP:20230307T180302Z
CREATED:20230307T180302Z
LAST-MODIFIED:20230307T180302Z
UID:17723-1678280400-1678291200@www.loria.fr
SUMMARY:Soutenance de thèse de Georgios Zervakis (Orpailleur)
DESCRIPTION:Georgios Zervakis (Orpailleur) soutiendra sa thèse intitulée « Intégration de connaissances et raisonnement symboliques aux modèles de langue pré-entraînés » le mercredi 8 mars à 13h à la salle A008 du Loria.\nRésumé :\nLes progrès récents de l’apprentissage profond et des réseaux de neurones ont permis d’aborder des tâches complexes de traitement du langage naturel\, qui sont appliquées à une pléthore de problèmes réels allant des assistants intelligents dans les appareils mobiles à la prédiction du cancer. Néanmoins\, les systèmes modernes basés sur ces approches présentent plusieurs limitations qui peuvent compromettre leurs performances et leur fiabilité\, les rendre injustes envers les minorités ou exposer des données personnelles. Nous sommes convaincus que l’intégration de connaissances et de raisonnement symboliques dans le cadre de l’apprentissage profond est une étape nécessaire vers la résolution de ces limitations. Par exemple\, les ressources lexicales peuvent enrichir les réseaux de neurones profonds avec des connaissances sémantiques ou syntaxiques\, et les règles logiques peuvent fournir des mécanismes d’apprentissage et de raisonnement. Par conséquent\, l’objectif de cette thèse est de développer et d’évaluer des moyens d’intégrer différents types de connaissances et de raisonnement symboliques dans un modèle de langage largement utilisé\, le Bidirectional Encoder Representations from Transformers (BERT). \nDans un premier temps\, nous considérons le retrofitting \, une technique simple et populaire pour raffiner les plongements lexicaux de mots grâce à des relations provenant d’un lexique sémantique. Nous présentons deux méthodes inspirées par cette technique pour incorporer ces connaissances dans des plongements contextuels de BERT. Nous évaluons ces méthodes sur trois jeux de données biomédicales pour l’extraction de relations et un jeu de données de critiques de films pour l’analyse des sentiments\, et montrons qu’elles n’ont pas d’impact substantiel sur les performances pour ces tâches. En outre\, nous effectuons une analyse qualitative afin de mieux comprendre ce résultat négatif. \nDans un second temps\, nous intégrons le raisonnement analogique à BERT afin d’améliorer ses performances sur la tâche de vérification du sens d’un mot\, et de le rendre plus interprétable. Pour cela\, nous reformulons la vérification du sens d’un mot comme une tâche de détection d’analogie. Nous présentons un modèle hybride qui combine BERT pour encoder les données d’entrée en quadruplets et un classifieur neuronal convolutif pour décider s’ils constituent des analogies valides. Nous testons notre système sur un jeu de données de référence et montrons qu’il peut surpasser les approches existantes. Notre étude empirique montre l’importance de l’encodage d’entrée pour BERT\, et comment cette dépendance est atténuée en intégrant les propriétés axiomatiques des analogies lors de l’apprentissage\, tout en préservant les performances et en améliorant l’interprétabilité. \nJury\n\n\n\nDirecteurs de thèse:\n\n\n\nMiguel Couceiro\, Université de Lorraine\nEmmanuel Vincent\, Inria Nancy — Grand Est\nMarc Schoenauer\, Inria Saclay — Île-de-France\n\nRapporteurs:\n\nSalvatore Ruggieri\, Università di Pisa\nChristian Müller\, DFKI\n\nExaminateurs :\n\nElisa Fromont\, Université Rennes 1\n\n\n 
URL:https://www.loria.fr/event/soutenance-de-these-de-georgios-zervakis-orpailleur/
LOCATION:Loria
CATEGORIES:Soutenance
END:VEVENT
END:VCALENDAR