La face sombre de ChatGPT

Introduction

L’arrivée de ChatGPT suscite bien des interrogations. Peut-on détecter un contenu généré par cette IA ? ChatGPT menace-t-il les emplois ? Faut-il faire voter des lois pour freiner ou compenser son usage ?

Notre civilisation est régulièrement marquée par quelques innovations qui induisent des changements majeurs dans notre mode de vie. L’arrivée de l’automobile, du cinéma, de la radio, de la télévision ou d’Internet a pareillement entraîné une mutation de nos existences.

Prenons l’exemple de la radio : si la musique populaire et le jazz en ont été les premiers bénéficiaires, les hommes politiques américains en ont rapidement perçu le potentiel. En 1932, le candidat Roosevelt, qui avait contre lui les grands patrons, la majeure partie de la presse et son infirmité, a usé de son talent d’éloquence pour toucher l’homme du peuple et a été élu triomphalement. Moins de trente ans plus tard, la télévision a permis au fringant John F. Kennedy de l’emporter sur son concurrent, le disgrâcieux Richard Nixon, qui passait mal à l’écran.

Que dire de l’avènement du Web ? Vers 1995, lorsque ce média est apparu, les utopistes y sont allés de leur couplet : Internet...

Les talons d’Achille de ChatGPT

ChatGPT n’est pas sans soulever maintes questions :

Usages contestables

Il a fallu moins de deux mois pour qu’apparaisse une application comme AI-Buddy qui promet de générer des argumentaires de ventes, des textes de marketing, des images ou du code informatique à partir de ChatGPT. Avec un slogan pour le moins déplaisant : "dites adieu aux rédacteurs et aux designers graphiques coûteux". © AI Buddy

Quelques jours après l’apparition de ChatGPT, si l’on tapait ce terme sur YouTube, les principales vidéos portaient sur ce thème : comment gagner de l’argent en vendant des contenus générés par ChatGPT. Eh oui… Des petits malins avaient flairé là une jolie source de revenus faciles, ignorant ou feignant d’ignorer que leur trouvaille serait rapidement connue de tous.

En parallèle, des applications exploitant ouvertement le potentiel de ChatGPT et outils similaires ont fleuri, proposant de créer du contenu marketing, des posts TikTok ou autres. Certaines annonces ont de quoi susciter l’écœurement, notamment celles qui clament que « vous n’aurez plus besoin de payer des rédacteurs ! » Ni plus ni moins.

Il fallait s’y attendre. ChatGPT peut être mis à profit à des fins peu honorables et certains se sont empressés de l’employer ainsi. Certains l’ont mis à...

Comment reconnaître un contenu généré par ChatGPT ?

Est-il possible d’identifier les contenus générés par ChatGPT ? Si, en tant que professeur, directeur de publication, vous soupçonnez des élèves ou des contributeurs d’avoir utilisé ChatGPT, quels indices pourraient vous mettre sur la voie ?

Pourquoi ne faut-il pas se fier aveuglément aux réponses de ChatGPT ?

ChatGPT menace-t-il nos emplois ?

Entre le 27 décembre 2022 et le 9 janvier 2023, Sortlist, une société composée d’experts en marketing, a interrogé 250 employés et 250 employeurs dans six pays :

Objectif : découvrir comment ils perçoivent l’effet de ChatGPT sur leur travail.

Le verdict a été clair. 21 % des employés sondés estiment que le risque majeur est que cet outil puisse remplacer leur emploi - dont 19 % en France. Le pourcentage est particulièrement élevé dans l’éducation, où ils sont 31 % à craindre des suppressions de postes.

Seulement voilà : la perception est similaire chez un grand nombre d’employeurs. Car la même enquête fait ressortir que 26 % de ceux qui ont été interrogés reconnaissent qu’ils envisagent de supprimer des emplois à cause de ChatGPT et notamment dans le secteur des logiciels et de la technologie.

Une autre enquête, menée cette fois-ci par Reambuilders.com auprès de 1 000 entreprises, a livré un verdict pour le moins inquiétant : la moitié d’entre elles ont reconnu qu’elles envisageaient d’un bon œil l’usage de cette Intelligence Artificielle et qu’elle pourrait aisément remplacer certains salariés. Pire, certaines avaient déjà sauté le pas.

Jeff McMillan, l’un des dirigeants de la banque américaine Morgan Stanley, a annoncé que cet établissement comptait utiliser GPT-4 (la nouvelle version de l’outil - voir chapitre Mieux exploiter ChatGPT), car cet outil permettait "d’avoir toutes les connaissances de la personne la plus qualifiée en gestion de fortune - instantanément".

De même, lors d’une réunion à Davos...

Où se situe l’essentiel de la menace ?

En réalité, ChatGPT et les outils du même type devraient avant tout menacer les professions reposant sur des séquences d’action ultra codifiées et répétitives, et ne nécessitant pas d’initiatives particulières. Un peu comme les bras articulés qui effectuent la peinture ou la soudure sur les chaînes d’assemblage automobile ont remplacé les ouvriers qui étaient affectés à cette pénible tâche. Une même mutation devrait se produire dans les métiers extrêmement codifiés et somme toute peu attrayants.

Ainsi, dans le domaine de la production de contenu, la création de l’immense majorité des communiqués de presse repose sur un modèle tellement standardisé qu’il serait aisé de confier la tâche à ChatGPT - et plusieurs agences m’ont confié qu’elles y avaient recours dès à présent.