Apprentissage des préférences sociétales pour la prise de décision collective automatisée

par Tahar Allouche

Projet de thèse en Informatique

Sous la direction de Jérôme Lang.

Thèses en préparation à l'Université Paris sciences et lettres , dans le cadre de SDOSE Sciences de la Décision, des Organisations, de la Société et de l'Echange , en partenariat avec Laboratoire d'Analyse et de Modélisation de Systèmes d'Aide à la Décision (laboratoire) et de UNIVERSITE PARIS DAUPHINE - PSL (établissement opérateur d'inscription) depuis le 01-10-2020 .


  • Résumé

    Les décisions collectives affectent une partie importantes de nos vies. Quelques exemples notables : 1. l'allocation de ressources médicales en tension lors de crises sanitaires (par exemple, les places en réanimation lors de la pandémie du covid-19, ou les greffes d'organes). 2. la décision de la répartition d'un budget collectif (pour une communauté comme une ville, un laboratoire de recherches, une copropriété...) entre plusieurs postes de dépenses. Un exemple typique est le budget participatif, comme celui de Paris. 3. l'affectation d'élèves ou d'étudiants à des écoles ou des universités (par exemple, en France, Affelnet ou Parcoursup). 4. des systèmes ou des véhicules autonomes qui prennent des décisions dans des situations de danger mettant en jeu la santé ou les vies d'individus. 5. la mise en oeuvre de mesures pour inciter les individus à se comporter de façon respectueuse de l'environnement (par exemple : covoiturage, taxes sur la circulation automobile évoluant en fonction du niveau de pollution et du trafic). Toutes ces décisions mettent en oeuvre des mécanismes issue du choix social ou de la théorie des jeux : allocation de ressources (1), vote et portionnement (2), appariement avec préférences (3), formation de coalitions (5), mécanismes de tarification (5). Certaines impliquent de l'incertitude (souvent 1, 4). Ces mécanismes ont en entrée les préférences ou les besoins des individus concernés(1, 2, 3), leurs caractéristiques (1, 3, 4), et/ou l'état courant du monde (1, 4, 5). On doit d'abord se demander si le choix du mécanisme, ou de ces paramètres, doit être fait de façon centralisée (par l'administration ou les organismes dirigeants, des comités d'experts, la société elle-même, ou un peu de tout ça à la fois. La société peut donner "son" opinion ou ses préférences à l'aide de sondages ou de "crowdsourcing". Il y a déjà des travaux sur le "crowdsourcing" de préférences pour les dilemmes impliquant des véhicules autonomes, des greffes d'organes ou le choix d'un budget commun (Awad et al, 2020; Freedman et al, 2020; Garg et al. 2019) mais il reste beaucoup à faire. Parmi les questions que nous voulons aborder dans cette thèse : élaboration d'une taxonomie des problèmes de décision collective où les préférences ou les critères peuvent être élicités par "crowdsourcing", et une formalisation dans un cadre de choix social (Tandis que cela est relativement simple dans contexte d'allocation de ressources ou d'appariement, cela l'est moins pour les dilemmes moraux, cf. ci-dessous). formalisation des dilemmes moraux dans les cadres de la théorie des jeux et du choix social. étude des critères normatifs ou des propriétés des mécanismes pour lesquels il est pertinent d'éliciter les opinions des membres de la société. comment expliquer aux individus comment un mécanisme fonctionne, et à quel point les individus peuvent-ils le comprendre? comment apprendre les préférences et critères de la société concernant un mécanisme de choix collectif? Comment éliciter des compromis entre critères? (une étude préliminaire figure dans Conitzer et al., 2016). comment apprendre les préférences sociétales en utilisant des modèles de préférences sophistiqués (notamment, non-additifs) que doit-on faire avec les préférences ainsi apprises? peut-on regrouper les individus en groupes avec préférences similaires? peut-on utiliser ce "clustering" pour accélérer les processus d'élicitation individuelle? conception de nouveaux mécanismes et algorithmes qui sont compatibles avec ces préférences sociétales. étude des questions stratégiques liées au "crowdsourcing" des préférences. La thèse consistera à la fois en dues travaux théoriques et en de la mise en oeuvre. Elle est pluridisciplinaire et touchera aux champs de recherche suivants : économie (choix social, théorie de la décision, théorie des jeux), intelligence artificielle (apprentissage de préférences, clustering, choix social computationnel) et informatique (informatique théorique, algorithmique, programmation).

  • Titre traduit

    Learning societal preferences for automated collective decision making


  • Résumé

    Collective decisions affect an important part of our lives. Some typical examples: 1. allocating scarce medical resources in sanitary crises (e.g., ventilators or hospital beds in the covid-19 pandemics, organ transplants). 2. deciding on how to spend the budget of some collectivity (nation, town, research group, group of co-owners), or part of it on different items or projects (e.g., participatory budgeting). 3. allocating students to schools or universities (e.g., in France, Affelnet ou Parcoursup). 4. autonomous devices or vehicles making decisions in situations of danger involving individuals' health or lives (e.g., dilemmas for autonomous cars) 5. implementing policies for incentivizing people to behave in an environment-friendly way (e.g., large-scale vehicle-sharing, adaptive driving taxes that evolve with the level of pollution and the traffic) All of these decisions involve some social choice or game-theoretic mechanisms: resource allocation (1), voting and portioning (2), matching with preferences (3), coalition formation (5), pricing mechanisms (5). Some involve uncertainty (often 1, 4). These mechanisms have as input the preferences or needs of concerned individuals (1, 2, 3), their characteristics (1, 3, 4), and/or the current state of the world (1, 4, 5). A key question is whether the choice of the mechanism, or of its parameters, should be made centrally by governing bodies, by expert panels, by the society itself, or perhaps a mixture of these. The society can give their opinion or their preferences using classical polls or with crowdsourcing. Some existing work exist on crowdsourcing preferences for autonomous car dilemmas, organ matching or budgeting (Awad et al, 2020; Freedman et al, 2020; Garg et al. 2019) but there is no much more than that. Some questions we want to address in the thesis are: - give a taxonomy of collective decision problems where preferences or criteria can be crowdsourced, and formalise them in a social choice setting. (While this is simple for resource allocation or matching problems, this is less so for moral dilemmas, see below.) - formalise moral dilemmas in a social choice and game theory setting. - study the normative criteria or properties of the mechanisms for which it makes sense to elicit the opinion of the members of the society. - how can we explain to individuals how a mechanisms works, and how well do people understand it? - how can we learn the society's preferences on criteria or parameters of a social choice mechanism? How can we elicit numerical trade-offs between criteria? (a preliminary study is in Conitzer et al., 2016). - learn societal preferences using sophisticated (e.g., non-additive) preference models. - what can we do with the learned preferences? can we cluster users in groups of similar preferences? can we use this clustering into user types for saving time when eliciting preferences? - design new mechanisms and algorithms that suit better societal preferences. - investigate the strategic, game-theoretic issues of preference crowdsourcing. The PhD thesis will consist both on theoretical work and implementation. It is interdisciplinary (economics, theoretical and applied computer science, AI) and will be concerned with the following research fields: economics (social choice theory, game theory, decision theory), AI (preference learning and more generally machine learning, computational social choice) and classical computer science (both theoretic and applied).