Comment ChatGPT sape la motivation à écrire et penser par soi-même

Naomi S. Baron, American University

Les étudiants qui ont recours à l’IA ne risquent-ils pas de perdre certaines habitudes d’écriture précieuses pour leur réflexion et leur créativité ? Ils sont conscients que les nouveaux outils peuvent modifier leur style et il leur arrive de se sentir dépossédés de leurs textes. Enquête aux États-Unis et en Europe.

---

Lorsque la société OpenAI a lancé son nouveau programme d’intelligence artificielle, ChatGPT, fin 2022, les spécialistes de l’éducation ont commencé à s’inquiéter. ChatGPT pouvait générer du texte qui semblait avoir été écrit par un humain. Comment les enseignants pourraient-ils détecter si les élèves utilisaient un chatbot d’intelligence artificielle pour tricher dans leurs devoirs et rédactions ?

En tant que linguiste, étudiant les effets de la technologie sur la façon dont les gens lisent, écrivent

et pensent, je crois qu’il existe d’autres préoccupations tout aussi urgentes à considérer que les risques de tricherie. Il s’agit notamment de savoir si l’IA, de manière plus générale, menace les compétences de rédaction des étudiants, la valeur du processus d’écriture et son importance comme véhicule de la pensée.

Dans le cadre de recherches menées pour mon nouveau livre sur les effets de l’intelligence artificielle sur l’écriture humaine, j’ai interrogé de jeunes adultes aux États-Unis et en Europe sur toute une série d’enjeux. Ils m’ont partagé une litanie d’appréhensions sur la façon dont les outils d’IA peuvent saper leurs travaux d’écriture. Toutefois, ces inquiétudes sont nées depuis un certain temps déjà.

La génération automatique de texte, confort ou danger ?

Des outils comme ChatGPT ne sont que les derniers d’une série de programmes d’IA conçus pour l’édition ou la génération de textes. Le risque de voir l’IA saper à la fois les compétences rédactionnelles et la motivation à composer par soi-même est en fait en gestation depuis des dizaines d’années.

Les correcteurs orthographiques et, aujourd’hui, les programmes sophistiqués de grammaire et de style comme Grammarly et Microsoft Editor comptent parmi les outils d’édition pilotés par l’intelligence artificielle les plus connus. Outre les révisions d’orthographe et de ponctuation, ils identifient les problèmes de grammaire et proposent des formulations alternatives.

Les développements en matière de génération de texte par l’IA comprennent les suggestions automatiques pour les recherches en ligne et le texte prédictif. Saisissez « Est-ce que Rome » dans une recherche Google et vous obtiendrez une liste de choix comme « Est-ce que Rome a été construite en un jour ». Tapez « s’il » dans un message texte et on vous proposera « s’il vous plaît » et « s’il serait possible ». Ces outils s’immiscent dans nos travaux d’écriture sans y être invités, nous demandant sans cesse de suivre leurs suggestions.

Les jeunes adultes interrogés dans le cadre de mes enquêtes ont apprécié l’aide apportée par l’IA en matière d’orthographe et de complétion de mots, mais ils ont également évoqué des effets négatifs. Un participant à l’enquête a ainsi déclaré : « Si l’on dépend trop d’un programme de texte prédictif, on risque de perdre ses compétences en orthographe ». Un autre a fait remarquer que « les logiciels de vérification de l’orthographe et d’intelligence artificielle… peuvent… être utilisés par des personnes qui veulent s’en sortir plus facilement ».

Une personne interrogée a mentionné la paresse comme motif de recours à la prédiction de texte : « C’est pratique quand je n’ai pas particulièrement envie de faire des efforts ».

Le degré zéro du style ?

Les outils d’IA peuvent également affecter le style d’une personne qui écrit. L’un des participants de l’enquête a déclaré qu’avec la saisie prédictive, il n’avait « pas l’impression d’être l’auteur du texte ».

Un lycéen britannique s’est fait l’écho de la même préoccupation en décrivant Grammarly : « Plutôt que de s’appuyer sur leur façon d’écrire, Grammarly peut priver les étudiants de leur style en suggérant des modifications importantes à leur travail.

[Déjà plus de 120 000 abonnements aux newsletters The Conversation. Et vous ? Abonnez-vous aujourd’hui pour mieux comprendre les grands enjeux du monde.]

Dans le même ordre d’idées, Evan Selinger, philosophe, s’est inquiété du fait que les prédictions de textos réduisent le pouvoir de l’écriture comme activité mentale et expression personnelle :

« En nous incitant à ne pas trop réfléchir aux mots que nous utilisons, la technologie prédictive peut subtilement changer la façon dont nous interagissons les uns avec les autres […]. Nous donnons aux autres plus d’algorithmes et moins de nous-mêmes… L’automatisation… peut nous empêcher de penser. »

Dans les sociétés fondées sur l’écriture, celle-ci est depuis longtemps reconnue comme un moyen d’aider les gens à réfléchir. Nombreux sont ceux qui ont cité le commentaire de l’auteur Flannery O’Connor :

« J’écris parce que je ne sais pas ce que je pense tant que je n’ai pas lu ce que je dis. »

Une foule d’autres écrivains accomplis, de William Faulkner à Joan Didion, ont également exprimé ce sentiment. Si la génération de textes par l’IA se charge d’écrire à notre place, nous réduisons nos possibilités de réfléchir par nous-mêmes.

Une conséquence étrange de l’utilisation de programmes comme ChatGPT pour générer du langage est que le texte est grammaticalement parfait. Il se présente comme un produit fini. Il s’avère que l’absence d’erreurs est un signe que c’est probablement l’IA, et non un humain, qui a écrit les mots, car même les écrivains et les rédacteurs accomplis font des erreurs.

L’écriture humaine est un processus. Nous remettons en question ce que nous avons écrit au départ, nous réécrivons ou, parfois, nous reprenons notre texte à zéro.

Les différentes étapes du travail de rédaction

L’idéal est d’instaurer un dialogue permanent entre l’enseignant et l’élève lorsqu’il s’agit de rédiger un texte à l’école. Il faut discuter du sujet sur lequel l’élève veut écrire, partager et commenter les premières ébauches. Il est ensuite temps pour l’élève de repenser et de réviser son texte. Mais cette étape n’a souvent pas lieu. La plupart des enseignants n’ont plus le temps d’accompagner ce travail éditorial.

Des étudiants consciencieux continuent à suivre par eux-mêmes ces différentes étapes, à l’instar d’auteurs professionnels. Mais la tentation de s’appuyer sur des outils d’édition et de génération de textes tels que Grammarly et ChatGPT est trop grande tant il est facile de substituer des résultats prêts à l’emploi à des occasions de réfléchir et d’apprendre.

Les experts en éducation réfléchissent à la manière de faire un bon usage des technologies d’écriture fondées sur l’IA. Certains soulignent leur potentiel pour stimuler la réflexion ou entamer le travail de collaboration. Avant l’apparition de ChatGPT, une version antérieure du même programme sous-jacent, GPT-3, était utilisée sous licence par des entreprises commerciales telles que Sudowrite. Les utilisateurs peuvent y saisir une expression ou une phrase, puis demander au logiciel d’ajouter d’autres mots, ce qui peut stimuler la créativité de l’auteur humain.

À qui le texte appartient-il ?

Cependant, de la collaboration à la dépossession, la pente est glissante. La rédactrice Jennifer Lepp admet qu’au fur et à mesure qu’elle s’appuyait sur Sudowrite, le texte qui en résultait ne semblait plus être le sien. « C’était très inconfortable de repenser à ce que j’avais écrit et de ne pas vraiment me sentir connectée aux mots ou aux idées ».

Par rapport à des professionnels de l’écriture chevronnés, les étudiants sont bien moins capables de situer la limite entre une simple aide à la rédaction et une vraie prise en charge du contenu et de leur style par un générateur de texte à base d’IA.

À mesure que la technologie devient plus puissante et omniprésente, il est probable que les écoles vont s’efforcer d’enseigner aux étudiants les avantages et inconvénients de l’IA générative. Mais l’efficacité de l’IA alimente un attrait auquel il est difficile de résister, qu’il s’agisse de peaufiner un travail de rédaction ou de le déléguer totalement. Les programmes de vérification d’orthographe, de grammaire et d’autocomplétion ont déjà ouvert la voie.

L’écriture, un processus humain global

J’ai demandé à ChatGPT s’il s’agissait d’une menace pour la motivation des humains à écrire. Voici sa réponse :

« Il y aura toujours une demande de créativité et d’originalité qui nécessite le point de vue unique et la perspicacité d’un rédacteur humain.

L’écriture sert de nombreux objectifs au-delà de la simple création de contenu, tels que l’expression de soi, la communication et le développement personnel, ce qui peut continuer à motiver les gens à écrire même si certaines formes d’écriture peuvent être automatisées. »

Cela m’a encouragée de constater que le programme semblait reconnaître ses propres limites.

J’espère que les éducateurs et les étudiants en seront tout autant conscients. L’objectif des devoirs d’écriture ne doit pas se limiter à la soumission d’un travail pour une note. La rédaction doit être un voyage, pas seulement une destination.

Naomi S. Baron, Professor Emerita of Linguistics, American University

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.