Traam EMI : Parcours éthique des données
Genèse du projet
- Ce projet a été initié dans le cadre des TraAM EMI. En 2020, nous sollicitions le collectif Terra Numerica afin de nous expliquer les algorithmes de recommandation des réseaux sociaux numériques.
- L’objectif était de nous aider à comprendre et de rendre visible le phénomène de bulles de filtres. Sans le savoir nous mettions alors le doigt dans un monde bien plus complexe : celui de l’univers de la donnée personnelle et de l’éthique de la collecte de ces données.
- Nous avons donc décidé de réfléchir à la conception d’un parcours permettant de rendre visible l’invisible. Cet article présente nos réflexions et nos travaux.
Enjeux
- Le citoyen de demain doit être un citoyen informé et attentif. Afin d’utiliser les médias de manière responsable, il doit comprendre ce que sont l’identité et la trace numérique. Il doit développer une connaissance critique de l’environnement informationnel du XXIe siècle : de la collecte des données personnelles à la compréhension des enjeux économiques du marché de l’attention, en passant par la connaissance des algorithmes de recommandations, des biais algorithmiques et des différentes techniques utilisées pour capter l’attention des utilisateurs. Enfin, il doit s’interroger sur l’influence des médias sur la vie démocratique et se questionner sur ses usages du numérique.
La carte mentale de présentation du projet nous permet de rendre compte visuellement de cette réflexion :
Les partenaires :
- Le collectif Terra Numerica (terra-numerica.org) : Brigitte Trousse, Anne Combe, Dorian Mazauric, Frédéric Giroire, (INRIA)
- Les enseignants associés dans le cadre des TraAMs EMI pour l’Etablissement Partenaire Terra Numerica collège Sidney Bechet : Sonia Duflos, (enseignante spécialisée classe relais), Sylvain Etienne (Enseignant de mathématiques, formateur), Géraldine Rouard (enseignante documentaliste, formatrice)
- D’autres enseignants ont rejoint le groupe : Perrine Le Dus (enseignante documentaliste au CIV, interlocutrice Clemi), Caroline Soubic (professeure documentaliste au collège Henri Wallon, formatrice, référente TraAMs EMI), Cédric Gamblin (professeur de technologie au collège Henri Wallon).
1. La collecte et l’usage des données
La CNIL définit la donnée personnelle ainsi : “une donnée personnelle est toute information se rapportant à une personne physique identifiée ou identifiable”.
En France, le Règlement Général sur la Protection des Données Personnelles (RGPD) est adopté en 2016 et applicable dès le le 23 mai 2018. Ce texte vise à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données dans l’Union Européenne.
La loi a en effet dû s’adapter en raison des usages accrus du numérique, notamment des réseaux sociaux, du développement du commerce en ligne et de la présence d’entreprises qui dominent désormais le marché économique mondial : les GAFAM.
Une personne physique peut être identifiée :
→ directement : par son nom, prénom.
→ indirectement : par son numéro de téléphone, son numéro de sécurité sociale, sa voix, son image.
→ le RGPD introduit la notion de données à caractère personnel : données de localisation, identifiant en ligne.
→ certaines données sont aussi sensibles et constituent également des données personnelles : opinions politiques, croyances religieuses, sensibilités philosophiques, orientation sexuelle, engagement syndical, appartenance ethnique, données de santé, données biométriques, condamnations et infractions, informations génétiques.
Sources :
Création de la carte mentale : collecte de données personnelles
- Un projet conduit dans le cadre des TraAMs en 2020/2021, au sein de la classe relais du collège Sidney Bechet, a permis de dresser une carte mentale de la collecte de données personnelles lors de nos navigations en ligne: Des chiffres du web aux traces de navigation : comprendre l’univers des données personnelles – Doc@zur (ac-nice.fr)
- Ce projet nous a permis de différencier les données personnelles déclaratives (fiches d’inscriptions par exemple) des traces de navigation ou données collectées lors de notre navigation.
Présentation de l’action de 2021 sur le site Docazur
Production des élèves :
Carte mentale des données personnelles :
+ 18 cartes pour un jeu d’estimation des données
+ fiche protéger sa navigation à remplir à l’aide des deux jeux Learning Apps :
Outils de collecte de données : jeu “traces de navigation” :
Outils de protection : jeu “protège ta navigation”
Lecture complémentaire : Mateo, Fabrice, 2022. La Mort de la vie privée, Collection Documents, Denoël Gallimard.
+ Pour compléter vous pouvez consulter les travaux de nos collègues du collège Henri Wallon : projet réalisé dans le cadre des TraAMs EMI :
2. Algorithmes de recommandations des réseaux sociaux : le phénomène de bulle de filtres
Dans le cadre des TraAMs EMI en 2020/2021, les enseignants du Collège Sidney Bechet, Établissement Partenaire de Terra Numerica, ont sollicité le collectif Terra Numerica afin de les aider à comprendre les algorithmes de recommandations et le phénomène de bulles de filtres des réseaux sociaux. Cette collaboration nous a permis de comprendre et d’expérimenter les algorithmes et leurs enjeux.
Nous avons découvert qu’il existe plusieurs types d’algorithmes de recommandation :
1. Systèmes de recommandations universelles dont le principe est de recommander ce qui est populaire/central.
Il existe notamment :
- un algorithme basé sur le degré (entrant) : plus on a de suiveurs, plus on est populaire
- Pagerank (algorithme utilisé par Google) : consiste à déambuler au hasard dans un réseau, les endroits les plus visités étant les plus populaires.
2. Recommandations ciblées
- Recommandations “triangles” dont le principe est de recommander ce que suivent nos amis (ceux que l’on suit)
- Clustering : proposer des recommandations selon les thèmes/groupes auxquels vous semblez appartenir du fait des similarités de comportement entre vous et les autres
3. Famille d’algorithmes de recommandation plus complexes utilisant d’autres outils d’Intelligence Artificielle (IA).
Article de présentation du projet :
Ateliers ludiques et pédagogiques – Terra Numerica
Ce projet a conduit à la créations d’ateliers.
Le projet a été complété au cours de l’année 2021/2022 :
– le train des algorithmes :
Niveau recommandé : à partir du cycle 4.
Thèmes scientifiques : #Mathématiques discrètes #Théorie des graphes #Algorithmes dans les graphes #Algorithmes randomisés #Applications aux Sciences Humaines et Sociales #Aspects éthiques #Aspects sociétaux
– des jeux sur les algorithmes :
Ces jeux sont réalisés avec scratch et permettent d’expliquer les algorithmes de recommandations aux élèves lors des interventions proposées dans le cadre de Terra Numerica. La notion de bulle de filtre et d’enfermement de l’utilisateur est à expliciter avec les élèves.
3. Biais algorithmiques
Un webinaire a été conduit sur la question des biais algorithmiques dans le cadre de la conférence “Algorithmes et médias” le 30 mars 2022 en partenariat avec Terra Numerica et le CLEMI.
Ce qu’on appelle un biais algorithmique est une déviation par rapport au résultat d’un processus algorithmique, résultat censé être neutre, loyal et équitable (les concepts seront explicités plus loin)
A première vue l’application de règles et d’instructions dans les processus algorithmiques devrait permettre de s’affranchir de la partialité des décisions humaines. Mais ce sont bien des humains qui décident quelles opérations faire et avec quels paramètres. Un algorithme se contente d’appliquer les opérations qu’on lui a dit d’effectuer avec les données qu’on lui fournit :
- d’une part, les a priori ou biais inconscients des concepteurs peuvent se glisser, consciemment ou à leur insu, dans les algorithmes qu’ils déploient.
- d’autre part, dans le cas des algorithmes de machine learning , la répétition des opérations et l’auto-apprentissage peuvent amplifier de façon invisible un biais présent au départ du processus.
4. La captologie
Capter et maintenir l’attention de l’utilisateur nécessite des compétences en ergonomie cognitive et en design. Plus le temps de connexion de l’utilisateur est long, plus les données collectées sont complètes, ce qui induit un gain économique pour les géants de l’internet.
a. les leviers de la dépendance :
Les réseaux sociaux numériques utilisent tous les leviers à leur disposition afin de capter notre attention. Nous l’avons compris plus haut, plus nous restons connectés, plus les géants du web peuvent collecter de données personnelles leur permettant de dresser des profils utilisateurs. L’enjeu pour eux est de nous rendre dépendants en utilisant les leviers de la captologie et des dark patterns.
Les biais les plus courants que nous avons pu identifier au cours de notre projet sont les suivants :
Instinct grégaire et phénomène de groupe :
Le comportement grégaire est ainsi défini sur Wikipédia : il “décrit comment les individus d’un groupe peuvent agir ensemble sans direction prédéterminée. Le terme s’applique au comportement des animaux vivant en troupeaux, ainsi qu’à celui des humains lors des manifestations, émeutes, grèves, files d’attente, événements sportifs ou religieux, ou simplement dans les processus quotidiens de prise de décision et de façonnage de l’opinion.” Les réseaux sociaux numériques, loin de créer ce phénomène de groupe, l’amplifient et permettent la satisfaction rapide d’un besoin séculaire d’appartenance à un groupe et de reconnaissance par les pairs : création d’un réseau, liste de contacts, reconnaissance sociale, besoin de popularité.
Voir l’article : Des explications à nos comportements sur les réseaux sociaux ? (Psychologue.net, 2017)
C’est ce biais que les fabricants de fake news utilisent pour augmenter la visibilité de leurs publications grâce à la création de communautés fictives, et de faux profils.
Le FOMO : fear of missing out
Il s’agit de la peur de manquer quelque chose. Concrètement, il induit le besoin de se connecter régulièrement afin de ne pas être la personne qui a raté la publication la plus tendance.
L‘appel aux figures d’autorité :
“Les spécialistes du marketing savent que l’un des moyens les plus convaincants de vendre quelque chose est d’obtenir un témoignage.” Les réseaux sociaux placent tous les utilisateurs à égalité permettant ainsi à chacun de devenir figure d’autorité. La théorie des cordes fait appel à l’autorité – La Physique (mydumpsterrentals.com, 2022). La navigation sur Internet permet d’accéder à de nombreux témoignages faisant appel à nos émotions. Ainsi, nous partageons du contenu afin de partager une émotion avec notre réseau social. Nous y voyons le moyen de nous rassurer sur nos propres ressentis.
Pour déconstruire : vidéo L’appel à l’autorité – La petite boutique des erreurs #12 (La tronche en biais, 2022)
Le biais de confirmation :
Le biais de confirmation est un biais très fréquent qui nous conduit à ne chercher que des informations confirmant notre hypothèse initiale ou à négliger ou ne pas croire les informations allant à l’encontre de notre hypothèse. Comme décrit plus haut dans la présentation, les réseaux sociaux numériques nous confirment nos opinions en ne nous proposant que des contenus susceptibles de nous intéresser grâce à des algorithmes complexes. Le danger est de conduire chaque personne à s’enfermer dans un mode de pensée unique et personnel. Le gain pour les géants du web est toujours lié à l’univers de la donnée personnelle. Plus nous partageons, plus notre profil utilisateur est complet et plus nous prenons le risque de nous laisser enfermer dans un mode de pensée unique. Le risque de clivage sociétal est ainsi amplifié.
Pour déconstruire :
Sur sa chaine vidéo Info ou mytho, Luc Langevin, illusionniste, explique comment le cerveau peut facilement être trompé. Dans cette vidéo, il illustre le biais de confirmation :
Le circuit de la récompense :
Les réseaux sociaux numériques activent les circuits de la récompense grâce aux diverses notifications dont nous sommes gratifiés : badges, flammes, cœurs, notifications. Tout ces artefacts sont autant de moyens de nous garder attentifs. De la même façon, les jeux numériques proposent des récompenses quotidiennes.
Il en découle que plus je partage d’informations, plus je suis susceptible d’avoir de vues et d’interactions avec mon groupe.
Le biais de la tache aveugle, ou biais de l’angle de mort de polarisation, ou encore illusion de l’unique invulnérabilité :
Le biais de la tâche aveugle est caractérisé par le fait que nous sommes persuadés que l’existence et le fonctionnement des biais cognitifs sont beaucoup plus présents chez les autres que chez nous. Nous avons conscience de l’impact des préjugés sur le raisonnement des autres, mais peu sur nos propres jugements. https://blog-psychologue.fr/biais-cognitif-tache-aveugle/
Ainsi travailler sur la démonstration des biais permet-il de prendre conscience de leur impact sur notre quotidien.
Idée pour déconstruire : utiliser le codex des biais cognitifs pour conscientiser les biais qui nous biaisent. Vous pouvez par exemple partir de cette liste pour identifier chacun un ou deux biais récurrents dans votre quotidien : Codex des Biais Cognitifs (inertian.wixsite.com, 2016)
Projet Biais cognitifs et réseaux sociaux
Cette année, nous avons travaillé sur la notion de biais cognitifs et dark patterns des réseaux sociaux dans le cadre de la classe relais du collège Sidney Bechet. Le projet n’a pu aboutir mais nous avons tout de même avancé dans la réflexion et pu tester le projet auprès de nos élèves. Ils ont fait le lien entre fonctionnalités des réseaux sociaux (likes, récompenses, infinite scroll…) et les biais cognitifs que ces fonctionnalités utilisent pour nous rendre dépendant.
Présentation du projet dans l’article mutualisé rédigé dans le cadre des TraAMs EMI 2021/2022, en partenariat avec l’académie de Strasbourg :
(lien à venir)
Article mutualisé rédigé dans le cadre des TraAMs EMI 2021/2022, en partenariat avec l’académie de Besançon sur la thématique de la captologie : https://www.pedagogie.ac-nice.fr/doc-azur/2022/05/31/captologie-et-leviers-de-dependance/
Piste à approfondir :
- Les algorithmes de recommandations sont facilement biaisés par l’industrie de fabrication des news.
- L’économie des fake news est facilitée par le modèle économique des réseaux sociaux : plus de clics entraîne plus de revenus pour les géants du web.
5. Les chiffres
Rappel des chiffres Données collectées vs. Gains des GAFAM :
- Graphique: Une minute sur Internet en 2021 | Statista
- Infographie : 1 minute sur Internet en 2021 (blogdumoderateur.com)
- Graphique: Combien les géants de la tech gagnent-ils chaque seconde ? | Statista
- Graphique: Combien les géants de la tech gagnent-ils par minute ? | Statista
Poursuite envisagée :
- Création d’un parcours plus complet pour la Cité du numérique en 2025
- Collaboration en cours de création (réunion le 06/05/2022) :
- Laboratoire LINE
- Inspe
- Canope
Afin de pouvoir continuer le travail entrepris dans le cadre des TraAMs EMI, un parcours magistère de formation devra être créé avec l’aide du laboratoire LINE.
Rappel des compétences scolaires et numériques engagées dans ce travail :
Domaine 2 CRCN : communication et collaboration
compétence 2.4 S’insérer dans le monde numérique
De quoi s’agit-il ? (Décret n°2019-919 du 30 août 2019) Maîtriser les enjeux de la présence en ligne, développer des stratégies et des pratiques autonomes en respectant les règles, les droits et les valeurs qui leur sont liés, pour se positionner en tant qu’acteur social, économique et citoyen dans le monde numérique, et répondre à des objectifs (avec les réseaux sociaux et les outils permettant de développer une présence publique sur Internet, et en lien avec la vie citoyenne, la vie professionnelle, la vie privée…).
Références au socle commun de connaissances, de compétences et de culture Accéder à un usage sûr, légal et éthique pour produire, recevoir et diffuser de l’information (Domaine 2 – Médias, démarches de recherche et de traitement de l’information) Comprendre les enjeux et le fonctionnement général des différents médias afin d’acquérir une distance critique et une autonomie suffisantes dans leur usage (Domaine 2– Médias, démarches de recherche et de traitement de l’information)
Thématiques et mots-clés associés (Pix) Identité numérique et signaux ; e-réputation et influence ; codes de communication et nétiquette ; pratiques sociales et participation citoyenne ; modèles et stratégies économiques ; questions éthiques et valeurs ; gouvernance technique d’internet et ouverture du web ; liberté d’expression et droit à l’information ; enjeux politiques (défense nationale, pratiques électorales…).
CRCN Domaine 4 : protection et sécurité
4.2 protéger les données personnelles et la vie privée
- De quoi s’agit-il ? (Décret n°2019-919 du 30 août 2019) Maîtriser ses traces et gérer les données personnelles pour protéger sa vie privée et celle des autres, et adopter une pratique éclairée (avec le paramétrage des paramètres de confidentialité, la surveillance régulière de ses traces…).
- Références au socle commun de connaissances, de compétences et de culture
- Savoir ce qu’est une identité numérique (Domaine 2 – Outils numériques pour échanger et communiquer) Être attentif aux traces laissées (Domaine 2 – Outils numériques pour échanger et communiquer) Comprendre la différence entre sphère publique et privée (Domaine 2 – Outils numériques pour échanger et communiquer)
- Thématiques et mots-clés associés (Pix) Données personnelles et loi ; traces ; vie privée et confidentialité ; Collecte et exploitation massives de données massives (big data).
Aspect éthique des réseaux sociaux :
CRCN Domaine 2 : Communication et collaboration
2.2 partager et publier
- De quoi s’agit-il ? (Décret n°2019-919 du 30 août 2019) Partager et publier des informations et des contenus pour communiquer ses propres productions ou opinions, relayer celles des autres en contexte de communication publique en apportant un regard critique sur la nature du contenu (avec des plateformes de partage, des réseaux sociaux, des blogs, des espaces de forum et de commentaires, de système de gestion de contenu CMS…).
- Référence au socle commun de connaissances, de compétences et de culture Publier, transmettre des documents intégrant divers médias, afin qu’ils soient consultables et utilisables par d’autres (Domaine 2– Outils numériques pour échanger et communiquer)
- Thématiques et mots-clés associés (Pix) Protocoles et modalités de partage ; applications et services pour le partage ; règles de publication et visibilité ; réseaux sociaux ; liberté d’expression et droit à l’information ; formation en ligne ; vie privée et confidentialité ; identité numérique et signaux ; pratiques sociales et participation citoyenne ; e-réputation et influence ; écriture pour le web ; codes de communication et nétiquette ; droit d’auteur.
La réalisation de ce parcours nous a permis d’associer élèves, enseignants et scientifiques à une réflexion sur les mécanismes sous-jacents à l’univers des données personnelles et des algorithmes, ainsi qu’à leur explicitation. Le parcours créé sera présenté lors de l’inauguration de l’espace Terra Numerica le 11 juin 2022 à Valbonne : https://terra-numerica.org/terra-numerica-sophia/