Enjeux de vie privée et d’équité posés par les systèmes de décision algorithmiques / Privacy and fairness issues with algorithmic decision systems

Type de soutenance
Thèse
Date de début
Date de fin
Lieu
IRISA Rennes
Salle
Petri-Turing
Orateur
Louis BEZIAUD (SPICY)
Sujet

Les algorithmes sont de plus en plus utilisés pour prendre des décisions impactant les individus, les cohortes et la société dans son ensemble. Cette ubiquité soulève d’importantes préoccupations éthiques et sociales, notamment la protection de la vie privée et l’équité. Cette thèse étudie ces deux sujets techniques sous l’angle de leur utilisation pratique et de leurs exigences sociétales. Dans une première contribution, nous examinons le conflit entre la vie privée et la transparence lors de la publication de procédures judiciaires. Dans une deuxième contribution, nous proposons un framework pour organiser des compétitions d’attaque de mécanismes de protection de la vie privée afin de mieux établir leur comportement dans la pratique. Dans une troisième contribution, nous nous concentrons sur les limites des définitions techniques d’équité et utilisons une simulation ancrée dans la réalité comme moyen d’observer leur impact à long terme sur l’ensemble d’un système. L’objectif principal de cette thèse est de mettre en évidence les questions fondamentales soulevées par la technicisation des défis sociaux ainsi que de proposer des outils techniques et des analyses visant à ramener ces défis sociotechniques dans leur contexte social.

ATTENTION  dans le cadre du plan VIGIPIRATE la règle suivante s'applique pour cet évènement :

L’accès du public à cette soutenance est contraint à une inscription préalable obligatoire auprès de aurelie [*] patieratirisa [*] fr (aurelie[dot]patier[at]irisa[dot]fr)

– L’accès ne sera pas autorisé sans inscription préalable. Par ailleurs, les visiteurs ne porteront ni bagage ni sac.

 

-----------------------------------------------------------------------------------------------------------------------------------------

Privacy and fairness issues with algorithmic decision systems

Algorithms are increasingly used across all layers of society, including in high-stake decision systems, impacting individuals, cohorts and society as a whole. This omnipresence of algorithms raises important ethical and social concerns, including in particular privacy and fairness. In this thesis, we study these two technical subjects under the lens of their practical usage and strong societal requirements. In a first contribution we investigate the conflict between privacy and transparency when
publishing legal proceedings. In a second contribution, we propose a framework to organize privacy challenges with a focus on attacking privacy-preserving data publishing mechanisms to better define their behavior in practice. As a third contribution, we focus on the limits of technical fairness definitions and leverage a simulation grounded in reality as a way to observe the long-term impact of fairness on a whole system. Overall, the main objective of this thesis is to highlight fundamental issues raised by the technicization of social challenges as well as to propose technical tools and analyses aimed towards bringing these sociotechnical challenges back to their social context.

Composition du jury
Alexis TSOUKIÀS, Directeur de recherche – CNRS
Benjamin NGUYEN, Professeur – INSA Centre Val de Loire
Luis GALÁRRAGA, Chercheur – INRIA
Sihem AMER-YAHIA, Directrice de recherche – CNRS
Tristan ALLARD, Maître de conférences – Université de Rennes
Sébastien GAMBS, Professeur – Université du Québec à Montréal