Risques et opportunités de l'Intelligence artificielle à l'école (Chat GPT et autres)

Risques et opportunités de l'Intelligence artificielle à l'école (Chat GPT et autres)

Avec l'arrivée de Chat GPT dans l'espace public, des craintes se font ressentir dans le milieu scolaire. En ligne de mire, le travail chez soi avec le recours à l'Intelligence Artificielle qui serait en proie à composer pour l'élève un devoir donné. Petit tour d'horizon de ce qu'est Chat GPT, ses possibilités, ses faiblesses, les dangers qu'il comporte, mais aussi les opportunités qu'il peut offrir en milieu scolaire.

Définition

Chat GPT est un outil de communication développé par l’entreprise Open AI. Il s’inscrit dans une liste au milieu de nombreux outils utilisant l’intelligence artificielle (AI). Basiquement, tous les outils d’Open AI fonctionnent de la même manière : on écrit des données qui décrivent le résultat souhaité et l’AI génère un résultat. Ce résultat peut être sous forme écrite, graphique, audio, …

Ces outils sont créés avant tout pour les domaines du marketing et de la communication. Il est par exemple possible d’écrire une description d’une image et de laisser l’IA créer différentes versions de cette image (Dall-E). Plus il y a de détails et plus l’image sera précise et réaliste. Autre exemple, l’outil Vall-E qui sera progressivement intégré aux outils Microsoft permet – sur la base d’un échantillon de voix de 3 secondes – de générer une voix artificielle à qui l’on peut faire dire ce que l’on veut.

Au milieu de ces nombreux outils, se trouve Chat GPT. Il s’agit d’une interface de texte qui génère des résultats écrits en fonction des demandes formulées. Il a été alimenté par des données principalement issues d’Internet et va donc aller piocher dans cet immense réservoir de connaissances pour délivrer son résultat. Dans ce sens, ce qui se trouve sur Internet et qui n’est pas public (deepweb, contenu protégé par un mot de passe) ne fait pas partie de sa base de données. Une grande masse de données... Le fonctionnement de cet outil suit un modèle spécifique. Il s'agit de réseaux neuronaux profonds qui ont été entraînés avec une très grande quantité de données différentes (textes, images, langage parlé, etc.) . La sélection des données se fait sur le même principe qu'un cerveau qui emprunte tel ou tel chemin en fonction des impulsions.

Les principales caractéristiques de cet outil sont :

  • Il comprend et adapte ses résultats selon plusieurs langues et langages.

Il est possible de faire une demande dans les principales langues européennes et asiatiques. L’outil va non seulement analyser le contenu de la demande faite, mais aussi le style utilisé de telle manière à adapter ses réponses. Ainsi, même si la même question est posée par plusieurs personnes, le fond sera peut-être identique, mais la forme utilisée pourra évoluer en tenant compte de nuances linguistiques comme l’utilisation de certaines expressions idiomatiques ou une phrase spécifique.

L’outil est en plus capable de donner des résultats spécifiques en langage informatique ou mathématique. Il peut donc générer un code informatique simple sur la base d’instructions. Idem pour des équations mathématiques ou des formules chimiques.

En outre, il décrira les paramètres à modifier pour personnaliser sa réponse.

Dans ce sens, il propose une justification de réponse en permettant à l’utilisateur de comprendre pourquoi il utilise telle ou telle formule.

  • Il est évolutif

L’interface n’a pas vocation à proposer une réponse unique pour une question. Chaque interaction est imaginée comme une « conversation » avec l’intelligence artificielle. Dans ce sens, si une réponse n’est pas satisfaisante ou manque de nuance dans le fond et la forme, il devient possible de demander de préciser le résultat avec de nouveaux paramètres. Par exemple, on peut lui demander de réécrire le résultat en se limitant à un certain nombre de caractères, ajouter des citations d’auteurs ou d’articles scientifiques, d’utiliser un style d’écriture similaire à une personne, d’adopter un genre spécifique (poème, chanson, récit, …) Le résultat peut donc être très pertinent, tout comme très extravagant en fonction de la demande de l’utilisateur.

C’est là aussi un élément qui interroge dans le cadre scolaire. Chat GPT ne va donc pas copier des textes, mais alimenter sa réponse afin de délivrer un résultat personnalisé. Dans ce sens, il crée un résultat à neuf.

De plus, les informations contenues dans les demandes des utilisateurs viennent aussi nourrir la base de données.

  • Il est utilisable sur n’importe quel support et se lie à d’autres applications

Pas besoin de posséder un ordinateur puissant qui stocke des données en masse. Chat GPT est accessible par un site web simple, il est donc possible d’y accéder depuis un ordinateur, une tablette, un smartphone ou tout autre outil de connexion au Web.

Puisqu’il est aussi disponible comme extension de navigateur web, il peut donc être intégré à de nombreux services tels que WhatsApp. Il est également possible de le coupler à des services de reconnaissance vocale, transformant l’interaction en une discussion orale.

Possibilités

Le recours à Chat GPT dans le milieu scolaire est en somme quasiment infini, voici quelques exemples :

  • Réponse à des questions précises, ouvertes ou fermées ;
  • Résolution de calculs mathématiques avec présentation des étapes de résolution ;
  • Rédaction d’une séquence simple en langage informatique (Html, Scratch, Python, C++, …) avec explication des paramètres à modifier ;
  • Rédaction d’une dissertation en français/allemand/anglais/italien/… avec des citations précises d’auteur ;
  • Rédaction d’un poème, d’une chanson ou d’un article scientifique ou médiatique, ainsi que tout autre texte utilisant un style et un canevas spécifique. Le style et le canevas pouvant être précisé par l’utilisateur lui-même :
  • Rédaction d’une lettre de motivation pour un employeur incluant des éléments pertinents à la postulation ;
  • Génération d’une vue d’ensemble d’un thème afin de créer une présentation complète de ce dernier. Chaque élément pourra alors être, lui aussi, généré par l’Intelligence artificielle ;
  • Développement d’un avis critique sur un sujet spécifique. Cet avis est nuancé et donne différentes opinions qu’il devient possible de personnaliser en fonction de ses convictions personnelles ;
  • Énumération des différentes étapes (mode d’emploi) pour réaliser une action.

Du point de vue de l’ingénierie pédagogique, Chat GPT a aussi son mot à dire :

  • Générer un plan de cours en fonction d’un public spécifique ;
  • Créer un contenu de formation écrit sous forme de leçons ;
  • Création d’un règlement interne ou d’une charte ;
  • Génération d’une vue d’ensemble et de détails pertinents sur un thème précis ;
  • Création et implémentation d’activités ludiques en lien avec des compétences issues du PER par exemple ;
  • Génération de matériel d’évaluation (QCM ou questions à développer) ;
  • Évaluation de travaux en fonction de critères.

Valeur des résultats obtenus

Nous sommes au commencement de cette technologie et il est aujourd’hui clair que les résultats obtenus par Chat GPT ne peuvent que se perfectionner, tout comme ses fonctionnalités. Cela étant, en l’état, à l’heure de la rédaction de ce texte, voici ce qu’on peut constater.

Les résultats obtenus sont parfois pauvres dans leur contenu, tout en ayant une forme acceptable. Ainsi, le fond de certaines compositions écrites relève parfois plus d’un texte imprécis et trop généraliste, sans donner de véritables arguments de poids.

Pour le code informatique ou les équations mathématiques, de nombreuses imprécisions sont à noter et rendent les résultats incorrects. Ils doivent être nécessairement relu ou corrigés. A l’inverse

Chat GPT peut également se tromper ou mal comprendre la requête et être totalement faux dans sa réponse.

On peut donc conclure que le simple copier-coller n’est pas fiable à 100%. Il faut donc relire et adapter ce qui doit l’être.

Problèmes posés dans l’enseignement

Le premier problème de fond qu’il n’est pas détectable par des outils traditionnels de contrôle du plagiat, puisque le résultat créé par l’IA se nourrit d’informations et compose à neuf chaque réponse. En testant de manière assidue l’outil, on se rend compte que les éléments de réponse et surtout leur ordre hiérarchique évolue assez peu. Il est donc possible de se rendre compte qu’il y a eu peut-être recours à l’outil en observant ces éléments.

Pour palier au problème de l’indétectabilité, des solutions existent et permettent de détecter si un texte est issu d’une IA ou non.

Le second problème est que Chat GPT explique son chemin. Contrairement à une calculatrice, il ne donne pas uniquement une réponse, mais aussi le chemin intellectuel qui l’a mené à cela. Le cheminement mathématique ou scientifique existait, cela dit, déjà dans d’autres programmes informatiques, mais sont plus complexes à utiliser. En ce sens, si cela est une possibilité de triche, c’est aussi un moyen d’apprentissage ou de compréhension de la démarche et du raisonnement.

Le troisième problème est l’effet convaincant de l’outil. Il donne des résultats impressionnants quand on ne connaît pas forcément les réponses au préalable. Il utilise une langue très élaborée et perfectible selon la demande. Il pourrait donc conduire l’élève (tout comme n’importe quel citoyen) à se contenter des résultats obtenus.

Quels effets sur le développement de l’esprit critique ?

Quel impact l’Intelligence artificielle pourrait avoir sur l’imagination et la créativité de l’élève ?

Doit-on craindre la remise en question de ce qu’un enseignant peut donner comme contenus, puisque Chat GPT peut lui aussi tout expliquer ?

Recommandations pour l’école

Par rapport à ce qui a été dit plus haut, cela pose des questions de fond :

-       Comment gérer les devoirs et travaux que l’élève doit faire de manière autonome hors de la classe ou de la supervision de l’enseignant ?

-       Comment évaluer un élève qui doit élaborer un texte, une présentation ou tout autre contenu ?

D’abord, il est nécessaire de bien se rappeler que dans le Primaire et jusqu’en 7H-8H, cela ne pose pas de problème puisque le style d’écriture de l’élève n’est pas encore développé. De même, structurellement, avant le Cycle 3, un seul enseignant suit l’élève. Dès lors, se multiplient les travaux de rédaction et de travail à la maison et supervisé par des enseignants issus de branches différentes.

Les recommandations qui peuvent être données aux enseignants sont les suivantes : 

-       Tester l’outil au préalable

Le recours à Chat GPT au moment de la création du sujet et de l’évaluation de l’élève permet de voir la structure de la réponse donnée par l’outil, mais aussi les arguments proposés. Cette structure ne change pas ou peu. Recourir à Chat GPT permet aussi de découvrir l’objet, ses potentialités et ses limites.

-       Relire et comparer la structure des travaux d’élève

Pareil que précédemment, un œil attentif sera apporté aux termes utilisés, à la forme de la rédaction et aux éléments importants qui ressortent du travail de l’élève.

-       Présenter l’outil en classe comme un moyen de recherche de résultats, au même titre qu’un moteur de recherche… avec toutes les faiblesses qu’il possède

Ceci permettra de faire comprendre à l’élève que l’enseignant connaît l’outil et que, bien que séduisant dans sa forme, il pose des problèmes de contenu non-négligeables. Y recourir est donc risqué sans connaissances préalables.

-       Prêter un œil attentif à la rapidité de rédaction d’un travail de la part de l’élève

Naturellement, et au même titre que tout travail autonome, l’enseignant devra trouver le moyen de définir une période idéale pour réaliser un travail à domicile. Si le travail rendu est clairement inférieur à ce qui a été estimé, cela peut être un motif de doute sur le recours à une assistance.

-       Ajouter des moments d’évaluation en classe

Cette idée est tout autant valable pour des travaux utilisant un moteur de recherche ou le recours à des aides extérieures. Non seulement, il est possible de demander à un élève de travailler chez lui sur un thème, ceci pourra donner lieu à une évaluation orale par exemple pour s’assurer que l’élève est bien l’auteur de son travail écrit.

-       Se questionner de la pertinence de donner un travail à faire à la maison

Bien que certainement essentiels à l’apprentissage de l’élève, le travail hors du contrôle de l’enseignant implique une réflexion importante. Les travaux hors école pourraient par exemple être d’avantage basés sur l’expérimentation pratique ou l’observation de phénomènes en direct qui limitent le recours à des technologies telles que chat GPT.

-       Réfléchir à comment intégrer au mieux l’outil dans le processus d’apprentissage

Apprendre comment fonctionne Internet, un moteur de recherche ou un algorithme est aussi une compétence importante en matière d’éducation numérique. L’intelligence artificielle en fait aussi partie.

En outre, les possibilités offertes par ces outils sont très larges dans une séquence d’enseignement. On peut, par exemple, comparer les réponses de l’élève à celles de l’IA. Ce processus permet de comprendre les différences entre l’intelligence humaine et cette dernière. On pourra aussi aborder le côté des émotions qui conduit parfois à choisir un mot plutôt qu’un autre. Le recours à l’IA permet aussi de confronter sa culture à celle de la machine de voir comment articuler certaines idées. Enfin, l’utilisation de l’IA permet aussi de réfléchir à la capacité de l’élève à décrire des phénomènes en utilisant ses compétences langagières. Par exemple, le programme Dall-E (qui convertit en image un texte) permet de tester et de perfectionner son vocabulaire et d’articuler ses pensées, quelle que soit la langue.

Dans ce contexte de profonde mutation, le Service de l’Enseignement – par le biais notamment du centre de compétences ICTVS – veille à informer les enseignants et observe de près ces évolutions importantes. De plus, des réflexions sont à l'étude pour envisager des formations continues sur ce thème. La HEP suit, elle aussi, de près les évolutions du numérique pour mieux l’intégrer dans ses formations et ses recommandations.

Conclusion

Nous sommes aujourd’hui à une sorte de carrefour entre une connaissance créée par l’humain et stockée sous forme numérique et la possibilité des « intelligences » numériques d’utiliser ces données pour développer des raisonnements et des résultats compréhensibles par l’humain. Cela va fortement modifier notre rapport à la connaissance, à son accès et aussi à notre individualité en tant que personne pensant librement et de manière autonome.

Le recours à ces intelligences artificielles fait déjà partie de notre quotidien cela dit. Notre smartphone comprend nos questions par l’assistant vocal, nos applications s’adaptent à notre comportement et nos goûts, notre moteur de recherche nous suggère des termes de recherche en fonction de notre profil, …

Chat GPT et Open AI viennent aujourd’hui nous proposer de conceptualiser, de sélectionner des données et de les mettre en ordre à notre place. La peur qu’il peut en résulter provient du fait que l’on peut se sentir dépossédé de nos facultés et de nos libertés.

Et dans ce sens, comme dans tout rapport à la technologie, il convient de juste se rappeler que nous seuls pouvons choisir comment utiliser cette dernière. Et chacun peut développer sa propre expérience : se distancer complètement des technologies numériques ? Vivre uniquement au travers de celles-ci ? Utiliser en conscience ces technologies avec les risques et les opportunités qu’elles proposent ?

Dans tous les cas, c’est bien le recours à l’esprit critique, à la citoyenneté et à l’autoprotection qui permettent à chacune et chacun de créer son rapport au numérique. Cela passe par l’acceptation ou non de publier ses photos sur un réseau social, le recours ou non à des services web pour faire des achats, le fait de se fier ou non à des entreprises tierces pour sélectionner un restaurant ou encore la façon d’utiliser une IA pour exprimer son avis, ses besoins ou sa personnalité. La citoyenneté, l’esprit critique et la capacité de protection font partie du plan d’études, tout comme la connaissance du fonctionnement des technologies numériques. Plus concrètement, il s’agit d’apprendre à contrôler l’IA, plutôt que d’en être dépendants.

Enfin, les plus fatalistes diront que cette nouvelle possibilité technologique signe la fin de l’école traditionnelle, voire du métier d’enseignant. On rappelle que les mêmes craintes se sont exprimées avec l’arrivée de la calculatrice, de logiciels de mathématique ou de sites de traduction. Il conviendra plutôt de se demander comment l’école peut encadrer l’utilisation de l’IA dans les apprentissages. Et dans ce sens, tout est ouvert, car les possibilités sont très nombreuses.

Menu mobile FR