Equité dans les problèmes de sélection

Fairness in selection problems

• Auteur / Autrice : Vitalii Emelianov
• Direction : Patrick Loiseau, Nicolas Gast
• Type : Thèse de doctorat
• Discipline(s) : Informatique
• Date : Soutenance le 13/06/2022
• Etablissement(s) : Université Grenoble Alpes
• Ecole(s) doctorale(s) : École doctorale mathématiques, sciences et technologies de l'information, informatique (Grenoble ; 199.-....)
• Partenaire(s) de recherche : Laboratoire : Laboratoire d'informatique de Grenoble
• Jury : Président / Présidente : Marie-Christine Rousset
• Jury : Examinateurs / Examinatrices : Alexis Tsoukiàs, Nicolas Usunier, Nicole Immorlica
• Jury : Rapporteurs / Rapporteuses : Jean-Michel Loubès, Manuel Gomez-Rodriguez

Mots clés

Mots clés contrôlés

Apprentissage automatique

Équité

Mots clés libres

Équité

Problème de sélection

Apprentissage automatique

Fairness

Selection problem

Machine learning

Résumé

Les algorithmes de prise de décision basés sur des données sont de plus en plus appliqués dans de nombreux domaines à fort impact social, tels que l'embauche, le crédit ou la justice pénale. Récemment, il a été démontré que ces algorithmes pouvaient entraîner une discrimination à l'encontre de certains groupes démographiques (par exemple, une discrimination fondée sur la race, le sexe ou l'âge). Cette constatation a donné naissance à une ligne de recherche active récente, appelée équité algorithmique--- qui étudie comment développer des algorithmes efficaces avec des garanties d'équité. La plupart des problèmes de décision à fort impact social mentionnés ci-dessus sont essentiellement des problèmes de sélection. Dans les problèmes de sélection, le décideur doit sélectionner une fraction fixe des meilleurs candidats compte tenu de leurs caractéristiques. La notion de budget de sélection contraste les problèmes de sélection avec les problèmes de classification typiquement étudiés dans la littérature sur l'équité algorithmique.Dans cette thèse, nous étudions les causes de la discrimination dans les problèmes de sélection et l'impact des mécanismes d'équité sur l'utilité de la sélection. Notre première contribution considère un problème de sélection avec des candidats dont la qualité est mesurée avec un bruit dépendant du groupe---un phénomène appelé variance différentielle. Nous étudions l'impact de la variance différentielle sur les représentations du groupe et comment les mécanismes standards d'équité de groupe affectent l'utilité de la sélection en présence de variance différentielle. Notre deuxième contribution propose un modèle de théorie des jeux d'un problème de sélection avec variance différentielle. Nous supposons des candidats stratégiques qui maximisent l'utilité individuelle en faisant un effort coûteux. L'effort induit leur qualité, mesurée par un décideur (juste de groupe) avec un bruit dépendant du groupe. Nous caractérisons l'équilibre d'un tel jeu. Dans notre troisième contribution, nous considérons un problème de sélection en plusieurs étapes. Nous étendons les notions classiques d'équité de groupe à un cadre à plusieurs étapes et proposons les notions d'équité locale (par étape) et globale (étape finale). Nous introduisons et étudions ensuite le prix de l'équité locale qui est le rapport des utilités induites par l'algorithme globalement équitable à celui de l'algorithme localement équitable.

Data-driven decision-making algorithms are increasingly applied in many domains with high social impact, such as hiring, lending, or criminal justice. Recently, it was shown that such algorithms could lead to discrimination against certain demographic groups (e.g., they can discriminate by race, gender, or age). This led to a recent active line of research---called algorithmic fairness---which studies how to develop efficient algorithms with fairness guarantees. Most of the decision problems with high social impact mentioned above are essentially selection problems. In selection problems, the decision-maker must select a fixed fraction of the best candidates given their characteristics. The notion of a selection budget contrasts selection problems with classification problems typically studied in the algorithmic fairness literature.In this thesis, we study the causes of discrimination in selection problems and the impact of fairness mechanisms on the utility of selection. Our first contribution considers a selection problem with candidates whose quality is measured with a group-dependent noise---a phenomenon called differential variance. We study the impact of differential variance on group representations and how standard group fairness mechanisms affect the selection utility in the presence of differential variance. Our second contribution proposes a game-theoretic model of a selection problem with differential variance. We assume strategic candidates who maximize the individual utility by making a costly effort. The effort induces their quality, measured by a (group-fair) decision-maker with group-dependent noise. We characterize the equilibrium of such a game. In our third contribution, we consider a multistage selection problem. We extend classical group fairness notions to a multistage setting and propose the notions of local (per stage) and global (final stage) fairness. We then introduce and study the price of local fairness which is the ratio of utilities induced by the globally fair algorithm to that of the locally fair algorithm.