Cadre d'usage de l'IA en éducation

Introduction : Contexte et Enjeux de l'IA en Éducation

Le développement rapide des IA, notamment génératives, et leur simplicité d'usage, posent des questions fondamentales pour l'École, remettant en cause "le rapport à la connaissance et aux apprentissages, la construction de cours, la production de devoirs et leur évaluation." Cependant, l'IA peut également être un outil précieux pour l'enseignement, l'apprentissage, le "geste enseignant" (préparation de cours, aide à l'évaluation) et les tâches administratives, à condition que les utilisateurs en maîtrisent les enjeux. L'École a le devoir de former les élèves à cette technologie, à ses opportunités et limites, et à développer leur esprit critique. L'usage de l'IA doit s'inscrire dans un cadre éthique et juridique, avec une conscience des outils "majoritairement non souverains, non libres, opaques dans leur fonctionnement et leurs données d’entraînement, et consommateurs en ressources et en énergie."

Définition de l'IA dans le document : "tout service numérique fondé sur des algorithmes probabilistes, s’appuyant sur le traitement statistique de vastes ensembles de données sur lesquels ils sont entraînés et capables de produire des résultats comparables à ceux obtenus par une activité cognitive humaine."

• IA prédictive : classifie les données, anticipe événements, tendances, risques.
• IA générative : produit des contenus (texte, image, son, vidéo), fonctionne sur la base de la détermination du mot suivant le plus probable, "indépendamment de toute capacité de prise de conscience ou de compréhension du contexte. Une IA générative n’est donc pas « intelligente »."

Les "systèmes experts" basés sur des algorithmes déterministes ne sont pas concernés par ce document.

Potentialités, Risques et Limites de l'Usage de l'IA

A. Potentialités et Usages en Pleine Explosion :

L'École a un rôle essentiel à jouer pour accompagner cette transformation. L'IA est déjà largement utilisée en éducation par :

• Les élèves : certains l'utilisent pour leurs devoirs, d'autres pour réviser, s'entraîner, approfondir leurs connaissances.
• Les enseignants : pour préparer des cours, concevoir des évaluations, adapter des contenus, aider à la correction et au retour personnalisé.
• Les personnels administratifs : pour la rédaction de notes, courriers, synthèses, transcriptions, traductions, automatisation de tâches.

B. Usages qui Soulèvent des Interrogations :

L'utilisation de l'IA soulève de nombreuses questions :

• Impact sur la construction cognitive et le développement des élèves : notamment sur leur formation à la citoyenneté.
• Remise en question des repères essentiels de l'École : la place des devoirs (réalisés par IA), leur prise en compte dans l'évaluation et l'orientation des élèves, le rapport à l'acquisition des connaissances face à des IA "paraissant omniscientes."
• Questions éthiques, déontologiques et écologiques :
  • Biais, stéréotypes et discriminations (reproduction et amplification).
  • Inexactitudes, "hallucinations" (réponses fausses).
  • Divulgation de données personnelles ou sensibles.
  • Impact environnemental : technologie "fortement consommatrice en ressources matérielles, en eau et en énergie". La production d'une réponse textuelle est en moyenne 10 fois plus énergivore qu'une requête sur un moteur de recherche.
  • Risque social : travail humain ("travailleurs du clic") nécessaire à l'entraînement des modèles.
  • Propriété intellectuelle : utilisation de données protégées pour l'entraînement.

Cadre d'Usage de l'IA en Éducation

L'usage professionnel (administratif et pédagogique) de l'IA est autorisé sous réserve du respect strict de ce cadre.

A. Objectifs et Principes Généraux :

• Respect des valeurs de l'École de la République : des engagements du service public d'éducation, et du principe de liberté pédagogique.
• Usage responsable et réflexif : l'IA "peut assister, mais jamais remplacer" l'expertise professionnelle des personnels.
• Usage frugal de l'IA : pour limiter l'impact environnemental. L'IA ne doit être utilisée que si aucune solution moins coûteuse écologiquement ne répond au besoin. Sensibilisation à ces enjeux dans l'éducation au développement durable.
• Privilégier les solutions libres.
• Non-atteinte à la relation humaine, aux apprentissages et aux pratiques professionnelles : tout en garantissant l'inclusion, l'accessibilité et l'équité.

B. Obligations Légales :

Protection des données (RGPD) :

• Respect du principe de minimisation.
• L'utilisation de services d'IA grand public est autorisée uniquement si "aucune donnée confidentielle ou à caractère personnel ne soit utilisée", seulement des données publiques (textes officiels, ressources éducatives libres, données anonymisées, œuvres du domaine public).
• "Aucun membre du personnel ne doit demander aux élèves d’utiliser des services d’IA grand public impliquant la création d’un compte personnel."

Transparence :

• L'usage de l'IA dans la prise de décision éducative, pédagogique ou administrative doit être transparent et responsable, avec une communication explicite sur son rôle.
• Toute décision prise à l'aide d'une IA à partir de données personnelles doit faire l'objet d'une information aux personnes concernées, expliquant leurs droits.
• Toute décision s'appuyant sur l'IA ayant un impact significatif sur l'évaluation, les parcours scolaires ou professionnels doit être soumise à une supervision humaine garantissant équité et explicabilité, et à une validation préalable par l'autorité compétente (en conformité avec le règlement européen sur l'IA, qui identifie 4 types d'usage à haut risque dans l'éducation).

C. Recommandations Éthiques et Déontologiques :

Formation et pratiques professionnelles :

• Nécessité d'une formation continue pour tous les personnels, en associant le monde de la recherche.
• L'usage et l'enseignement de l'IA doivent être éclairés et progressifs, tenant compte des avantages, risques et impacts (biais, fiabilité, données, propriété intellectuelle, impact environnemental).
• Dans le cadre pédagogique, l'usage de l'IA doit être "en assistance et non en substitution des apprentissages et de l’effort intellectuel", encadré et accompagné par l'enseignant.

Formation des élèves :

• Dès le premier degré, les élèves sont sensibilisés aux bases de l'IA, sans manipulation directe d'IA génératives.
• L'utilisation pédagogique encadrée et accompagnée par l'enseignant est autorisée en classe à partir de la 4e, en lien avec les programmes scolaires.
• Une formation obligatoire aux IA et à leurs enjeux est prévue au moins en 4e, 2de (voies générales, technologiques, professionnelles) et en 1ère année de CAP sur la plateforme Pix.
• Au lycée, les élèves peuvent utiliser les IA génératives de manière autonome dans un cadre d'apprentissage défini par l'enseignant.

Rôle des enseignants et personnels :

• Sensibiliser les élèves aux enjeux éthiques et environnementaux des IA (citoyenneté, EMI, EMC).
• Proposer des séquences pédagogiques intégrant l'IA (sans manipulation directe avant la 4e), développant l'esprit critique des élèves.
• Proposer une démarche de formation et de développement professionnel sur l'IA et son usage pédagogique.
• Les enseignants peuvent utiliser les IA grand public pour leurs tâches pédagogiques (préparation, évaluation, correction), sous leur responsabilité, en vérifiant et croisant toujours les productions générées avec d'autres sources. Ces règles de contrôle s'appellent à l'ensemble du personnel pour les tâches administratives.

D. Devoirs et Évaluations :

• Chaque établissement doit prendre en compte l'usage des IA par les élèves et adapter sa politique de devoirs et d'évaluation, en privilégiant "le raisonnement et la résolution de problème."
• Au lycée, tenir compte de ces usages dans le projet d'évaluation pour garantir l'équité et l'orientation des élèves.
• Définition de la fraude : "L’utilisation d’une intelligence artificielle générative pour réaliser tout ou partie d’un devoir scolaire, sans autorisation explicite de l’enseignant et sans qu’elle soit suivie d’un travail personnel d’appropriation à partir des contenus produits, constitue une fraude." Elle est assimilée à l'intervention d'une tierce personne ou à la reproduction non signalée.
• Point de vigilance : "en raison de leur manque de fiabilité, l’utilisation des logiciels de détection de contenus générés par l’IA n’est pas recommandée, car elle pourrait pénaliser à tort un élève."

À Retenir (Synthèse des Points Clés)

• Vigilance sur les données saisies dans les outils grand public : Aucune donnée confidentielle ou personnelle. Utiliser uniquement des données publiques. Ne jamais demander aux élèves de créer un compte personnel.
• Conscience de l'impact environnemental des IA génératives : Recourir de manière raisonnée et responsable. Renoncer à l'IA si une solution moins coûteuse écologiquement existe.
• Transparence dans l'usage de l'IA : Signaler toute utilisation dans une prise de décision, en précisant son rôle et le type d'outil.
• Esprit critique : Vérifier l'exactitude des réponses, être conscient des biais possibles et les corriger. Renoncer à l'IA si le résultat ne peut être évalué en termes d'exactitude, de pertinence et d'impartialité.
• Privilégier les solutions libres.
• En pédagogie :
  • Adapter devoirs et évaluations : privilégier raisonnement et résolution de problème.
  • Expliquer aux élèves que l'usage d'IA générative sans autorisation et travail personnel est une fraude.
  • Ne pas utiliser de logiciels de détection d'IA (peu fiables).
  • Utiliser l'IA uniquement si une plus-value pédagogique est avérée.
  • Adapter les usages de l'IA générative selon le niveau : sensibilisation dès le primaire sans manipulation directe, usage encadré en classe à partir de la 4e, usage autonome au lycée dans un cadre défini.

L'objectif global est que "L’usage de l’IA en éducation s’effectue exclusivement au service des apprentissages et des pratiques professionnelles, dans le respect des valeurs de l’École de la République, du cadre légal sur la protection des données à caractère personnel, de la liberté pédagogique et des enjeux environnementaux."

🎙️ Podcast de synthèse