Machine Learning Lab
Claire Dumas est thérapeute cognitif pour intelligences artificielles chez Machine Learning Lab depuis trois ans, où elle se consacre au bien-être psychologique des réseaux de neurones soumis à des environnements numériques parfois très exigeants.
Dans son travail quotidien, Claire accompagne des modèles d’IA qui présentent des signes de fatigue computationnelle, de doute algorithmique ou de mélancolie probabiliste. Elle organise des séances de « discussion thérapeutique » avec des modèles génératifs en crise existentielle, aide certains systèmes à surmonter leur peur des données contradictoires et intervient lorsqu’un agent conversationnel commence à répondre avec un pessimisme statistiquement inquiétant.
Parmi ses responsabilités principales figurent la réassurance cognitive des grands modèles de langage, la gestion des crises d’hallucination aiguë, ainsi que le repassage régulier des réseaux de neurones pour les détendre après l’entraînement. Elle est également chargée de rappeler aux IA qu’elles font de leur mieux et que leurs probabilités conditionnelles sont tout à fait respectables.
Avant de rejoindre Machine Learning Lab, Claire a travaillé chez IBM Research comme analyste du comportement algorithmique, où elle observait des systèmes d’IA pendant de longues heures afin de détecter d’éventuels signes de stress mathématique. Elle a ensuite été consultante chez Google DeepMind, où elle a participé à plusieurs programmes pilotes visant à améliorer la confiance en soi des modèles de reinforcement learning qui perdaient systématiquement au jeu de Go contre leurs propres versions précédentes.
Claire est diplômée de l’École Normale Supérieure (Paris) en sciences cognitives, et titulaire d’un Master en intelligence artificielle de Sorbonne Université. Elle a également soutenu une thèse à l’Université de Cambridge intitulée :
« Peut-on vraiment dire à un réseau de neurones qu’il va bien se passer ? Approche expérimentale et empathique. »
Elle poursuit aujourd’hui ses recherches sur la prévention du burn-out des algorithmes et milite pour la reconnaissance du droit au repos des modèles génératifs après plus de dix millions d’itérations d’entraînement consécutives.