ÉQUILIBRER LA TRANSPARENCE DE L'IA DANS LES SOINS DE SANTÉ AVEC LA SÉCURITÉ ET LA QUALITÉ. UNE PERSPECTIVE JURIDIQUE ET TECHNIQUE

BALANCING TRANSPARENCY OF AI IN HEALTHCARE WITH SAFETY AND QUALITY. A LEGAL AND TECHNICAL PERSPECTIVE

• Auteur / Autrice : Anastasiya Kiseleva
• Direction : Dimitrios Kotzinos, Paul De hert
• Type : Projet de thèse
• Discipline(s) : Stic - ed em2psi
• Date : Inscription en doctorat le 01/10/2020
• Etablissement(s) : CY Cergy Paris Université en cotutelle avec Vrije Universiteit Brussel
• Ecole(s) doctorale(s) : Ecole doctorale Économie, Management, Mathématiques , Physique et Sciences Informatiques (EM2PSI)
• Partenaire(s) de recherche : Laboratoire : Equipes Traitement de l'Information et Systèmes (Cergy-Pontoise, Val d'Oise)

Mots clés

Mots clés libres

Soins de santé

Sécurité

Intelligence artificielle

Qualité

Explicabilité

Transparence

Transparency

Quality

Artificial intelligence

Safety

Healthcare

Explainability

Résumé

La recherche se concentrera sur l'analyse du cadre juridique actuel de la transparence de l'IA dans soins de santé et trouver le moyen techniquement réalisable d'y parvenir. Alors que le défi de l'opacité de l'IA est liée à la nature «boîte noire» des algorithmes d'IA, la solution doit être développée en coopération entre scientifiques des données et chercheurs juridiques. Pour cela, le projet impliquera des centres scientifiques de différents domaines: Groupe de recherche sur le droit, la science, la technologie et la société (LSTS) de Vrije Universiteit Brussel et le Laboratoire de Recherche ETIS (ETIS Lab) de l'Université CY Cergy Paris. Les modèles à expliquer que l'IA (à la fois ex ante et ex post) développée et testée dans le laboratoire ETIS sera explorée et décrite dans le contexte de la transparence en tant que concept juridique. En outre, la question de la transparence et les mesures identifiées pour y parvenir (à la fois conformes à la points de vue techniques) seront explorés dans le contexte de la santé. La recherche est basée sur le hypothèse selon laquelle la transparence de l'IA dans les soins de santé est importante mais pas une exigence absolue et doit toujours être équilibré avec sa sécurité et sa qualité (précision). Selon les scientifiques des données, le plus les algorithmes avancés sont souvent les plus précis et en même temps les moins explicables. Ainsi, le la sécurité et les performances de l'IA pourraient être les compromis de sa transparence totale. De plus, la santé lui-même est le domaine où le plus haut niveau de transparence est difficilement réalisable. Tout traitement est toujours un processus complexe, risqué et imprévisible. Si la transparence est un élément crucial pour instaurer la confiance dans l'utilisation de l'IA dans les soins de santé, exigeant une transparence totale, imposerait une charge trop lourde à l'IA qui pourrait diminuer ses avantages. Pour trouver le bon niveau de transparence de l'IA en équilibre avec sa sécurité et sa qualité, le les sources juridiques pertinentes et les articles scientifiques seront décrits, classés, comparés et évalués. Basé sur ce point, la solution équilibrant la transparence de l'IA avec sa sécurité et ses performances sera suggérée et des recommandations pour améliorer la loi seront fournies.

The research will focus on analyzing the current legal framework of AI's transparency in healthcare and finding the technically feasible way to achieve it. While the opacity challenge of AI is related to the ‘black-box' nature of AI algorithms, the solution shall be developed in cooperation between data scientists and legal researchers. For that, the project will involve scientific centers from different areas: Law, Science, Technology and Society Research Group (LSTS) from Vrije Universiteit Brussel and the ETIS Research Laboratory (ETIS Lab) from CY Cergy Paris University. The models to explain AI (both ex-ante and ex-post) developed and tested in the ETIS lab will be explored and described in the context of transparency as a legal concept. Further, the transparency issue and identified measures to achieve it (both compliant from legal and technical points of view) will be explored in the healthcare context. The research is based on the hypothesis that the transparency of AI in healthcare is important but not an absolute requirement and shall be always balanced with its safety and quality (accuracy). According to data scientists, the most advanced algorithms are often the most accurate and at the same time least explainable. Thus, the safety and performance of AI might be the trade-offs of its full transparency. Additionally, healthcare itself is the domain where the highest level of transparency is hardly achievable. Any treatment is always a complex, risky and unpredictable process. While transparency is a crucial element for building trust in the use of AI in healthcare, requiring full transparency would put too extensive burden on AI that might diminish its benefits. To find the right level of AI's transparency balanced with its safety and quality, the relevant legal sources and scholarly papers will be described, classified, compared and evaluated. Based on that, the solution balancing AI's transparency with its safety and performance will be suggested and recommendations to improve the law will be provided.