L'IA, un outil dangereux à ne pas laisser entre toutes les mains ?

La surveillance étatique

Soraya s’éprend finalement pour le nouveau monde qu’elle découvre au point d’envisager une reconversion professionnelle. Julie la met cependant en garde. Elle avait déjà soulevé la question du caractère « artificielle » de l’IA en s’en moquant. Même si elle n’est pas sans impact économique, l’IA ne va pas éradiquer le travail. Cela signifie-t-il que cette technologie ne présente aucun autre danger ? Il ne s’agit pas dans ce chapitre d’accuser l’outil en soi, mais de montrer ce qu’il peut permettre d’accomplir et dans bien des cas accomplit déjà. On a coutume de dire qu’un couteau peut couper une tomate comme une gorge et c’est vrai. Il en est de même pour l’IA. Ce genre de propos est cependant à nuancer. Tout dispositif ne peut pas être détourné de la même manière. Il est plus facile de tuer avec un couteau qu’avec une balle en mousse.

L’IA peut être un instrument de contrôle. L’association de la reconnaissance faciale et la massification de caméras pourraient nous plonger dans un monde dystopique où tous les mouvements des citoyens seraient contrôlés. Il suffirait pour un État de définir le comportement attendu pour l’inciter. Ce dernier serait récompensé et ainsi promu. C’est le cas dont on a beaucoup entendu parlé...

Les dangers des moteurs de recommandation

Si l’IA rationalise, pourrait-elle être un danger pour les idées démocratiques ? Reprenons le cas de la recommandation pour souligner tout son aspect potentiellement nocif. Le terme « potentiellement » est important. Tous les moteurs de recommandation ne virent pas au cauchemar. Cela dépend du soin apporté par l’équipe éditoriale quand elle existe.

Ainsi, ce qui remonte dans les contenus proposés à une personne est censé correspondre à ses goûts. Pourtant, les systèmes mettent en avant des propos clivants ou qui suscitent en nous un effet de catharsis en excitant nos pulsions sans nous apprendre grand-chose. Nous avons tous le droit de consommer des vidéos ou lectures pour le simple divertissement. Le problème c’est qu’on occulte tous les énoncés nuancés ou informationnels. On passe alors plus de temps à discuter de tel ou tel sujet qui nous anime plutôt que du dérèglement climatique. Le sensationnalisme est amplifié. Les moteurs de recommandation n’ont pas réinventé notre passion pour le goût du drame. Mais ils décuplent cette situation. Dans plus d’un cas, notons que si la recommandation plaît tant aux entreprises, c’est parce qu’elle...

Ceux et celles qui craignent trop de régulation

Si on reprend l’Histoire, en réalité, les technologies ont souvent apporté des modifications législatives. Le Code du travail français a surgi dans un contexte de révolution industrielle avec l’émergence de la classe ouvrière. Le RGPD accompagne vingt après l’avènement du Web et l’explosion des données. L’IA suit le même chemin, mais rencontre aussi des réticences.

L’une des premières difficultés tient aux divergences d’opinions sur le sujet. Luc Julia, co-créateur de Siri, ne souhaite pas par exemple que la législation en matière d’IA soit trop forte. Et pour cause, si on impose des règles coercitives, on freinera l’innovation. Nous sommes aux prémices de cette technologie. Si on prend trop et trop vite des mesures restrictives, on pourrait ne jamais voir toute l’étendue possible de ce que l’IA a dans le ventre.

Du point de vue européen, on pourrait aussi empêcher l’éclosion de jeunes pousses. Les IA génératives américaines sont bien implantées. Elles ont une longueur d’avance. Si on contraint le marché de l’IA, elles auront plus de facilité à s’adapter qu’une toute nouvelle entreprise qui se lance.

Il y a donc le camp de ceux et celles qui ne souhaitent pas trop imposer de restrictions aux personnes qui travaillent dans l’IA.

Ceux et celles qui réclament...