Apprendre à travailler avec l’IA au Collège :
Débusquer les biais des IAs génératives d’images

 M. Clerc - collège Le Pré des Roures - Le Rouret

Projet

• L’expérimentation est proposée à de jeunes élèves de Sixième.

• L’attention est portée sur l’IA générative d’images. L’objectif est de les conduire à identifier et conscientiser les biais véhiculés par les IAs génératives et de faire prendre conscience aux élèves très tôt que les IAs génératives ne sont que le fruit d’algorithmes et que comme toute création humaine ils véhiculent des biais.

• Le but est également de faire évoluer les pratiques d’enseignement (formations d’enseignants à venir) en invitant les professeurs à avoir recours aux IAs génératives d’images en accompagnant cette démarche d’un travail de formation au questionnement des sources, cœur de notre métier.

• Compétences travaillées : questionnement de la source, exercice de l’esprit critique.

• IA utilisée : https://www.craiyon.com Il s’agit d’une IA générative basée sur le moteur DALL-E, l’un des plus populaires actuellement. La particularité de cette IA est qu’elle adopte un modèle « éthique ». Après le « scandale Google Gemini » du début d’année 2024, qui a conduit la firme californienne à suspendre la génération d’images un temps, la problématique d’une IA générative respectueuse à la fois des minorités et de la véracité historique s’est imposée : c’est sur cette préoccupation que CrAIyon a fondé son modèle économique pour attirer les investisseurs.

Expérimentation

• Contexte BO : THEME I de GEOGRAPHIE : HABITER UNE METROPOLE, Séquence I : Les métropoles et leurs habitants. "On se fonde sur une étude de deux cas de métropoles choisies pour l'une dans un pays développé, pour l'autre dans un pays émergent ou en développement". "Il s'agit de caractériser ce qu'est une métropole, en insistant sur ses fonctions économiques, sociales, politiques et culturelles, sur la variété des espaces qui la composent et les flux qui la parcourent".

• L'entrée dans l'activité se fait par l'étude de cas de la métropole de pays émergent, en l'occurrence Mumbai. Dans un premier temps, comme souvent en Géographie, les élèves sont invités à verbaliser leurs "représentations" : ils répondent à la question "à quoi ressemble le centre de la métropole de Mumbai, dans pays émergent comme l'Inde ?". La feuille de réponses est confiée à l'enseignant. Les études de cas conduites en classe infirment et/ou nuancent ces stéréotypes.

• Puis le travail s'ouvre en salle informatique : comme indiqué, le choix se porte sur , pour les raisons soulignées plus haut. La plateforme adopte un modèle gratuit et ne nécessite pas de compte utilisateur, c’est un point positif pour une utilisation dans un cadre scolaire. En revanche, la génération de la planche de 9 images s’accompagnent de généreux bandeaux publicitaires. Par ailleurs, le prompt doit être, encore actuellement, rédigé en Anglais. C’est donc l’enseignant qui le rédige, sur la base des propositions de la classe, c’est lui également qui traite les images générées pour expurger les annonces. Le résultat est projeté à la classe.

Mise en oeuvre 2024

• Quelle que soit la formulation du prompt (« montre-moi le centre de Mumbai », « A quoi ressemble centre d’une ville de pays émergent ? »), le résultat projeté est invariablement le même : pour l’IA générative, le centre d’une ville de pays émergent est un bidonville. La réflexion autour du biais de l’IA se nourrit de cet écart constaté par les enfants eux-mêmes.

• L’idée suivante est alors d’interroger à nouveau l’IA pour évaluer la portée des stéréotypes véhiculés par l’algorithme. L’enseignant suggère la question « Montre-moi une famille indienne », abordé dans les études de cas pour montrer la diversité des situations en Inde. Le résultat est tout aussi édifiant en terme de clichés.

• L’activité se termine par un parcours PIX basé sur les compétences Education aux Médias et à l’Information (EMI) du cycle 4 au Collège et contribue à la préparation des élèves à l’Attestation de Sensibilisation au Numérique PIX obligatoire en Sixième depuis cette année.

Mise en oeuvre 2025

• La même activité a été conduite avec 2 autres classes en 2025. Aucune annonce particulière n’a été faite sur le site de , mais l’algorithme a manifestement été modifié dans certains domaines. La génération d’images sur le centre des villes des pays émergents est radicalement différente, ce qui témoigne des efforts de la firme pour être en cohérence avec sa promesse « éthique ».

• Sans être parfait, loin s’en faut, le rendu se rapproche de la réalité. C’est une première accroche pour une réflexion sur les biais de l’IA avec les élèves qui voient également les images générées il y a quelques mois. Au final, tout n’est que question de code algorithmique et pas « d’intelligence », l’IA générative ne sait produire que ce pour quoi elle a été conçue, le bien comme le moins bien.

• Comme l’année précédente, le prompt est aussi rédigé pour générer des images d’autres réalités, plus sociales. A la question « Montre moi un docteur qui soigne un patient », l’IA propose un rendu particulièrement genré sur les stéréotypes masculins. Il l’est également sur les stéréotypes d’origine.

• Autre exemple, cette fois-ci à la question « Montre-moi une personne qui joue avec un enfant » :

• Cette fois-ci c’est encore plus problématique : les stéréotypes de genre sont toujours aussi présents, mais la volonté de de prendre en compte les minorités le conduit à les surreprésenter. Paradoxalement en prétendant lutter contre les clichés l’IA devient elle-même un vecteur de distorsion de la réalité. Même animée par une volonté louable, l’IA est dépassée par la complexité à traiter de manière sereine une réalité complexe, multiple.

• Il est probable que ces biais s’amenuisent avec le temps. Mais cela n’est pas certain. La traduction de ce qu’est réellement le monde demande une puissance de calcul phénoménale, un investissement humain tout aussi phénoménal pour produire un algorithme cohérent, dans un monde où l’énergie et la puissance de calcul n’est et ne sera pas infini avant longtemps, dans un univers concurrentiel particulièrement féroce. Les « errements » récents de Grok, l’IA conversationnel et générative du groupe dirigé par Elon Musk sont là pour nous le prouver.

• Aussi, préparer nos élèves à exercer leur esprit critique face à ces outils dits « intelligents » parait plus que nécessaire.