To mark European Cyber Week, which brings together French and European stakeholders in cybersecurity and defense artificial intelligence from November 16 to 19, we invite you to read two profiles of our scientists, whose work helps address the major challenges of trust and security in the digital world. (in french only)
Delphine Demange, spécialiste de la sûreté logicielle, essentielle à la cybersécurité
Maître de conférences à l’Université de Rennes et chercheuse dans l'équipe EPICURE, Delphine Demange travaille sur la vérification et la fiabilité des logiciels. Elle s'intéresse notamment aux compilateurs, ces programmes qui traduisent le code écrit par les développeurs et les développeuses en code machine, en l’optimisant au passage.
Une étape essentielle du développement logiciel, dans laquelle des bugs peuvent se cacher et introduire des dysfonctionnements, voire des failles de sécurité. Ses recherches visent à concevoir des modèles mathématiques qui décrivent l’exécution des programmes, pour garantir qu’ils sont traduits correctement, sans même avoir à les exécuter. Ses résultats sont publiés en open source pour que les équipes qui développent des compilateurs puissent s’en emparer, et nourrissent aussi ses cours à l'ISTIC - Université de Rennes.
pour en savoir plus sur Delphine Demange
Erwan Le Merrer, des travaux pionniers pour l’audit des intelligences artificielles
Chercheur Inria dans l'équipe de ARTISHAU, Erwan Le Merrer s'intéresse à l'audit et à l'évaluation des algorithmes et des systèmes d'intelligence artificielle, notamment lorsqu'ils sont déployés dans des contextes de prise de décision. Son objectif : comprendre et contrôler le fonctionnement de ces systèmes, même lorsque leur fonctionnement interne reste inaccessible, comme c'est souvent le cas des grands modèles de langage comme ChatGPT ou Claude s’exécutent sur des serveurs d’entreprises, en « boîte noire ». Avec ses collègues, il développe notamment des outils pour les surveiller : TrackLLM détecte si un modèle a changé entre deux utilisations, et FLIPS en détermine l’empreinte numérique (sa famille et sa version).
Ses techniques d’audit reposent sur le gain d’information, une approche classique en cybersécurité. C’est tout l’objet de sa chaire de recherche financée par le Cluster SequoIA : formaliser le continuum entre audit des IA et cybersécurité.
pour en savoir plus sur Erwan Le Merrer