Le droit saisi par l’IA

Introduction

Réflexion personnelle ou collective, l’éthique repose sur des principes et des valeurs. Elle oriente les actions et fixe des lignes de conduite. Lorsque certaines situations nous confrontent à des conflits de valeurs, alors la réflexion éthique nous guide pour choisir le meilleur sens possible. Plus qu’un acte de responsabilité, l’éthique est un acte de responsabilisation, d’engagement et d’intégrité.

Le concept d’une IA éthique by design, vise à intégrer des valeurs et des principes humains dès sa conception.

En effet, nous pensons que sans éthique by design, point de confiance dans l’IA.

Cela implique le besoin d’imposer ce concept en créant un droit collectif sur les données en développant une IA explicable, c’est-à-dire qui décline son processus décisionnel de manière transparente.

Une Gouvernance de l’IA éliminerait la crainte des utilisateurs qu’une IA utilise leurs données pour prendre des décisions opaques qui pourraient les affecter négativement.

Sans éthique by design pas de confiance dans l’IA

En quelques années, l’IA s’est imposée comme un élément incontournable de notre existence. Irradiant toutes les sphères de l’activité humaine, cette révolution technologique, qui se déroule et s’amplifie sous nos yeux, modifie en profondeur notre manière d’apprendre, de travailler et d’interagir avec nos semblables.

Toutefois, cette expansion fulgurante génère son lot de critiques qui se cristallisent en particulier sur les problèmes éthiques engendrés par l’IA¹. C’est-à-dire, l’ensemble des interrogations morales qui résulte de la création ou de l’application de l’IA. Ces critiques apparaissent d’autant plus prégnantes que le développement de cette technologie est parfois insidieux. En effet, l’IA affecte souvent nos vies sans même que nous en ayons conscience et donc sans que nous l’ayons consenti.

Dès lors, au-delà des questions purement théoriques sur la menace existentielle que ferait peser l’usage de cette technologie sur l’humanité, il semble primordial de commencer ce guide par un développement qui rend compte des problématiques éthiques de « l’IA du quotidien »². Ce travail est nécessaire...

Imposer l’éthique by design

Comme nous l’avons déjà expliqué, l’éthique by design signifie la prise en compte des règles éthiques dès la conception de l’IA. Pour ce faire, il est nécessaire de mettre en place un environnement permettant d’atteindre cet objectif.

Concrètement, il s’agit tout d’abord d’intégrer l’éthique dans la formation des acteurs du monde de l’IA. Cela concerne notamment les chercheurs, ingénieurs, designers et entrepreneurs qui se destinent à ce secteur. Évidemment, il ne s’agit pas d’indiquer une grille de conformité ou de restaurer les cours de moral d’antan. En réalité, nous pensons qu’il faut plutôt promouvoir, tout au long du processus de formation, une approche responsable et pluridisciplinaire qui sensibilise aux risques inhérents de l’IA. Ce type de formation, comportant un aspect théorique, mais surtout pratique, doit notamment envisager la protection de la vie privée, les libertés publiques, les droits fondamentaux ou encore le respect de la propriété intellectuelle.

En clair, il faut transmettre des outils didactiques permettant d’adopter une démarche éthiquement responsable. Pour atteindre cet objectif, il faut décloisonner la formation scientifique en sollicitant...

Créer un droit collectif sur les données

Si le Règlement Général sur la protection des données (RPGD) s’applique aux données à caractère personnel, les données collectives, par exemple les agrégats statistiques fréquemment utilisés par des solutions basées sur l’IA, ne sont pas encadrées par la législation⁷. Pourtant, cette utilisation « peut alimenter des effets discriminants sur certaines catégories de population »⁸.

Il a ainsi été démontré qu’aux États-Unis les populations afro-américaines étaient davantage discriminées sur les plateformes populaires de locations d’appartement en ligne qui utilisent des données collectives⁹.

Ainsi, partant du principe que chaque individu dispose d’un droit à l’information sur les données qui le concerne, la législation devrait élargir son spectre en offrant, à des organismes représentatifs de la société civile, un droit de regard sur l’utilisation des données collectives.

Développer la transparence et les audits indépendants

En matière d’éthique de l’IA la mère de toutes les batailles correspond à la transparence qui s’attache à cette technologie. L’opacité de l’IA constitue un des enjeux éthiques les plus importants puisque sans compréhension, il n’est pas de consentement valide. Or, l’IA apparaît aujourd’hui comme une sorte de boîte noire dont le fonctionnement ne peut pas être expliqué, même par ses concepteurs. En effet, si les imput (données d’entrée) et les outpout (données de sortie) sont connues, le fonctionnement interne de l’IA, qui opère cette transformation, demeure méconnu et parfois totalement inexplicable. Cette ignorance s’explique par deux raisons principales.

Tout d’abord, la volonté des concepteurs de conserver le secret de fabrication de leur IA. En effet, dans un secteur particulièrement concurrentiel, où les informations acquièrent une valeur fondamentale, les différents intervenants qui s’emploient sur une IA sont particulièrement rétifs à communiquer leur savoir-faire, même lorsqu’ils travaillent à un projet commun. D’ailleurs, soulignons un paradoxe insoutenable : la protection juridique de l’IA, via la notion...

Instaurer une gouvernance de l’éthique

Parmi les nombreuses propositions novatrices issues du rapport Villani, celle relative à la création d’un Comité consultatif national éthique pour l’IA demeure pour l’instant lettre morte.

Pourtant nous croyons qu’une telle instance serait de nature à permettre l’émergence d’un débat public et de formuler des avis éclairant les politiques et les acteurs du monde de l’IA. Dans le domaine de la santé, le comité éponyme occupe une place légitime en guidant et arbitrant les choix sociétaux qui lui incombent.

Ainsi, un tel organisme appliqué au domaine de l’IA remplirait un espace jusqu’à présent abandonné. Du reste, la création d’un comité européen de l’IA est prévue dans le projet de règlement sur l’IA.

Notes

¹ Cf. Y. MENECEUR, L’intelligence artificielle en procès. Plaidoyer pour une réglementation internationale et européenne, Bruylant, Paris, 2020, 450 p.

² Par cette expression nous entendons les multiples applications de l’IA dans notre vie quotidienne, comme les algorithmes qui déterminent les musiques et les vidéos qui nous sont proposées ou encore les publicités qui apparaissent sur les pages internet que nous consultons, (voir à ce sujet, P. BESSE, C. CASTETS-RENARD, A. GARIVIER et J.-M. LOUBES, « L’IA du quotidien peut-elle être Ethique : Loyauté des Algorithmes d’Apprentissage Automatique, 2018, https://hal.archives-ouvertes.fr/hal-01886699v2/document. »).

³ Dès 1976, Joseph Weiznbaum indiquait que l’IA ne devrait jamais être utilisée afin de remplacer des individus qui occupent des positions impliquant un pouvoir, comme des soldats, des policiers, des médecins, etc. (cf. J. WEIZNBAUM, Computer Power and Human Reason : From Judgment To Calculation, San Francisco : W. H. Freeman, 1976).

⁴ Rapport Office des choix scientifiques n. 4594 pour une intelligence artificielle maîtrisée, utile et démystifiée, 2017, [https://www.assemblee-nationale.fr/14/rap-off/i4594.asp].

⁵ Comment permettre à l’Homme de garder la main ? Rapport sur les enjeux...