“L’élève doit avoir un esprit critique par rapport à ChatGPT”

Depuis fin 2022, les IA génératives sont accessibles au grand public. Malgré les nombreuses inquiétudes et questionnements qu’elles soulèvent, elles sont là et les enseignants vont devoir composer avec ce nouvel enjeu. Alors quels sont les risques, limites et opportunités pour l’éducation ? Frédéric Oru, d’AI for Better, nous apporte des éléments de compréhension sur l’IA la plus connue : ChatGPT.

Comment fonctionne ChatGPT ?

C’est ce qu’on appelle un modèle de langage, c’est-à-dire que son seul et unique but, quand on lui donne un texte, est de prédire les mots qui vont suivre. On appelle cela un modèle auto-agressif, parce qu’on lui demande de le refaire en permanence jusqu’à arriver à la fin de la phrase. C’est important parce que cela signifie qu’il n’y a pas de logique, ni de réflexion. Son objectif est de créer un texte cohérent qui aurait pu être écrit par un humain. Il a été nourri par des milliards de documents et donc il simule une intelligence humaine. Puis, il y a la partie chat, qui a été conçue pour pouvoir faire des interactions avec ce modèle. On lui a fourni plein d’exemples assez formatés de questions et la réponse associée. C’est pourquoi, quand vous discutez avec ChatGPT, vous vous rendez compte qu’assez souvent il reformule d’abord votre question, puis il donne une réponse un peu circonstancielle avec une thèse, une antithèse et enfin une conclusion. Il a, par ailleurs, été entraîné à ne pas tenir des propos offensants.

Quelle mise en garde les enseignants pourraient donner à des élèves qui seraient tentés de s’en servir pour faire leurs devoirs ?

Je ne peux pas me mettre à la place d’un enseignant et me permettre de lui donner des conseils. Ce que je crois et ce que j’ai entendu de la part d’autres enseignants, c’est qu’il est assez illusoire de vouloir interdire l’utilisation de ChatGPT parce c’est très facile d’accès. Mais on peut expliquer aux élèves ce que j’évoquais précédemment, c’est-à-dire que ChatGPT ne résonne pas. Il ne faut pas non plus croire ce qu’il raconte, ce n’est pas un moteur de recherche, ​​il ne copie-colle pas quelque chose qui existe sur Internet. Il faut savoir que lorsque ChatGPT n’a pas la réponse, ce qui peut arriver assez souvent, il l’invente, c’est ce qu’on appelle une hallucination. Donc, il faut en premier lieu faire comprendre à l’élève qu’il doit avoir un esprit critique par rapport à ChatGPT, parce que ses réponses n’ont pas valeur de vérité. Deuxièmement, ce n’est que de la cohérence, pas de la logique donc il peut y avoir des erreurs de raisonnement, je pense aux mathématiques par exemple. Par ailleurs, si on se contente de poser une simple question, pour produire une rédaction par exemple, la réponse de ChatGPT est souvent plate et un élève pourrait vite être démasqué. Pour bien l’utiliser, il faut inclure dans le “prompt” (la requête) des éléments de contexte sur ce que l’on souhaite obtenir ou quel personnage la machine doit jouer. Il est nécessaire de donner beaucoup de détails pour que le résultat soit à peu près de qualité. Il faut compter une à deux heures pour réaliser un prompt à peu près correct. Il est donc possible d’expliquer aux élèves que si ChatGPT a l’air très facile d’utilisation, en réalité cela demande du travail de s’en servir correctement. Le prompt doit contenir la notion d’objectif et donner une intention. Et pour bien donner une intention encore faut-il savoir l’exprimer. Si on compte ne plus avoir besoin de s’exprimer, en laissant la machine faire cela à notre place, alors on fait une erreur fondamentale, en perdant notre propre capacité à pouvoir dire à la machine ce que l’on veut.

Est-ce que ChatGPT peut contribuer à faciliter l’apprentissage des élèves? 

Absolument, on parle beaucoup de tuteurs personnels, avec le danger que ça peut représenter. Encore une fois, il faut que l’élève puisse avoir un certain recul critique par rapport à ce que propose Chat GPT. Cependant, par exemple, si un élève a un cours, ou une logique présentée dans ce cours et que cela ne lui correspond pas en termes d’apprentissage, il peut demander à ChatGPT de le présenter différemment. C’est facile de dire “explique-moi cela comme à un enfant de 5 ans” ou “explique-moi plus visuellement”, etc. ChatGPT peut apporter une présentation qui lui convient mieux individuellement et qu’un professeur n’a pas temps de donner à chacun de ces élèves. Mais l’élève doit faire attention et vérifier ses sources car ChatGPT peut dire des erreurs. On parle beaucoup de ChatGPT, mais il y a des alternatives qui sont en train d’émerger et qui citent leurs sources. Indéniablement cela va être un outil, mais pas seulement dans l’éducation, pour tous. On pourrait avoir notre assistant personnel qui nous parle et nous fait comprendre des choses de façon plus appropriée pour nous.

C’est donc pratique pour des enseignants qui voudraient faire de la différenciation pédagogique. Quels autres usages pourraient-ils avoir avec ChatGPT ?

Un professeur peut aussi se faire assister par Chat GPT pour concevoir ses plans de cours ou se donner des idées d’animations. Il s’agit d’un domaine extrêmement neuf, ChatGPT existe depuis un peu plus de 6 mois. On commence à peine à voir comment les usages vont peut-être s’infuser dans tous les domaines de la société. Je pense qu’il vaut mieux accompagner ce mouvement et échanger avec les élèves, plutôt que d’essayer de leur imposer un point de vue.

Est-ce que ChatGPT peut corriger des copies ?

Oui, c’est tout à fait possible, mais est-ce que le résultat est satisfaisant, cela dépend. Des professeurs de philosophie ont fait corriger des copies par ChatGPT et ils ont trouvé le résultat passable. Je sais aussi que des copies de mathématiques ont été corrigées avec des intelligences artificielles, pas forcément par ChatGPT. Une des utilisations dont on parle le plus pour les enseignants est la génération de QCM ou de questions-réponses. Cela existait déjà par ailleurs et de nombreuses applications de ce type sont lancées. Et dans ce cas de figure, alors oui la correction est facile pour ChatGPT. Il est plus compliqué de demander une correction à ChatGPT quand il s’agit d’analyser une logique ou un argument.

Que deviennent nos données avec ChatGPT ?

Aujourd’hui les serveurs de ChatGPT sont aux Etats-Unis. Si on ne fait pas une action spéciale, tous les échanges que l’on a avec lui vont être utilisés pour réentraîner la machine. Même si on décide de ne pas garder l’historique, les échanges peuvent être regardés par des employés d’Open AI. Il y a vraiment un problème de confidentialité de l’information. Donc dans l’Éducation nationale, cela semblerait assez sain d’utiliser des outils qui ne sont pas de suprématie américaine. Il faudra vraiment regarder les alternatives. L’État travaille à la mise en œuvre d’un outil souverain et plein de sociétés Open Source vont proposer des alternatives. Nous n’en sommes vraiment qu’au début.