À l’occasion l’European Cyber Week, qui réunit ce 16 au 19 novembre, les acteurs français et européens de la cybersécurité et de l’intelligence artificielle de défense, nous vous proposons de découvrir deux portraits de nos scientifiques, dont les travaux contribuent à répondre aux grands enjeux de confiance et de sécurité du numérique.
Delphine Demange, spécialiste de la sûreté logicielle, essentielle à la cybersécurité
Maître de conférences à l’Université de Rennes et chercheuse dans l'équipe EPICURE, Delphine Demange travaille sur la vérification et la fiabilité des logiciels. Elle s'intéresse notamment aux compilateurs, ces programmes qui traduisent le code écrit par les développeurs et les développeuses en code machine, en l’optimisant au passage.
Une étape essentielle du développement logiciel, dans laquelle des bugs peuvent se cacher et introduire des dysfonctionnements, voire des failles de sécurité. Ses recherches visent à concevoir des modèles mathématiques qui décrivent l’exécution des programmes, pour garantir qu’ils sont traduits correctement, sans même avoir à les exécuter. Ses résultats sont publiés en open source pour que les équipes qui développent des compilateurs puissent s’en emparer, et nourrissent aussi ses cours à l'ISTIC - Université de Rennes.
pour en savoir plus sur Delphine Demange
Erwan Le Merrer, des travaux pionniers pour l’audit des intelligences artificielles
Chercheur Inria dans l'équipe de ARTISHAU, Erwan Le Merrer s'intéresse à l'audit et à l'évaluation des algorithmes et des systèmes d'intelligence artificielle, notamment lorsqu'ils sont déployés dans des contextes de prise de décision. Son objectif : comprendre et contrôler le fonctionnement de ces systèmes, même lorsque leur fonctionnement interne reste inaccessible, comme c'est souvent le cas des grands modèles de langage comme ChatGPT ou Claude s’exécutent sur des serveurs d’entreprises, en « boîte noire ». Avec ses collègues, il développe notamment des outils pour les surveiller : TrackLLM détecte si un modèle a changé entre deux utilisations, et FLIPS en détermine l’empreinte numérique (sa famille et sa version).
Ses techniques d’audit reposent sur le gain d’information, une approche classique en cybersécurité. C’est tout l’objet de sa chaire de recherche financée par le Cluster SequoIA : formaliser le continuum entre audit des IA et cybersécurité.
pour en savoir plus sur Erwan Le Merrer