UNESCO : les gouvernements doivent rapidement réglementer l’usage de l’IA générative à l’école

Alors que dans une partie du monde les élèves reprennent le chemin de l’école après les vacances d’été, l’UNESCO appelle les gouvernements à mettre en œuvre des réglementations appropriées et à former les enseignants, pour garantir une approche centrée sur l’humain lors de l’utilisation de l’IA générative dans l’éducation. Dans cet objectif, l’UNESCO publie le tout premier Guide mondial pour l’IA générative dans l’éducation et la recherche, conçu pour faire face aux perturbations causées par ces technologies.

Téléchargez le guide

La première partie de ce Guide de l’UNESCO explique ce qu’est l’IA générative et comment elle fonctionne. Les sections suivantes abordent les controverses relatives à l’IA générative et leurs implications pour l’éducation, en particulier la façon dont elle aggrave les fractures numériques. En effet, les modèles actuels de ChatGPT sont formés à partir de données provenant d’utilisateurs en ligne, qui reflètent les valeurs et les normes sociales dominantes des pays du Nord.

Une limite d’âge de 13 ans

Le Guide de l’UNESCO présente ensuite sept étapes clés que les gouvernements doivent suivre pour réglementer l’IA générative et établir des cadres politiques pour son utilisation éthique dans l’éducation et la recherche. Il recommande par exemple l’adoption de normes mondiales, régionales ou nationales en matière de protection des données et de vie privée. Il fixe également une limite d’âge de 13 ans pour l’utilisation des outils d’IA dans les salles de classe, et appelle à former les enseignants spécifiquement sur ce sujet.

Fondé sur la Recommandation de l’UNESCO de 2021 sur l’éthique de l’intelligence artificielle et le Consensus de Beijing de 2019 sur l’intelligence artificielle dans l’éducation, ce Guide encourage l’intervention humaine, l’inclusion, l’équité, l’égalité des genres et la diversité culturelle et linguistique. Ce Guide répond également aux préoccupations exprimées lors de la première table ronde ministérielle mondiale sur l’IA générative, organisée par l’UNESCO en mai 2023.

Lancement le 7 septembre

Le lancement du Guide a lieu aujourd’hui au siège de l’UNESCO à l’occasion de la Semaine de l’apprentissage numérique de l’UNESCO, qui rassemble plus de 1 000 participants pour discuter notamment des plateformes publiques d’apprentissage numérique et de l’IA générative dans l’éducation. Parmi les intervenants figurent :

• Stuart Russel, professeur d’informatique, University of California, Berkeley (États-Unis d’Amérique)
• Yoshua Bengio, professeur au département d’informatique et de recherche opérationnelle de l’Université de Montréal, fondateur et directeur scientifique de Mila, l’Institut québécois d’intelligence artificielle, lauréat du Prix Turing 2018
• Yann LeCun, vice-président et scientifique en chef de l’IA chez Meta
• Daniel Andler, mathématicien et philosophe, membre de l’Académie des sciences morales et politiques et professeur émérite, Sorbonne Université́, France

Manque de gouvernance dans l’utilisation de l’IA générative en classe

Le public a découvert l’IA générative en novembre 2022 à la suite du lancement de ChatGPT, qui est devenue l’application à la croissance la plus rapide de l’histoire. Capable de générer des textes, des images, des vidéos, de la musique et des codes de logiciels, les outils d’IA générative ont des conséquences considérables sur l’éducation et la recherche.

Pourtant, le secteur de l’éducation reste insuffisamment préparé à l’intégration éthique et pédagogique de ces outils à évolution rapide. Selon une récente enquête mondiale de l’UNESCO, menée auprès de plus de 450 écoles et universités, moins de 10 % d’entre elles disposent de politiques institutionnelles et/ou d’orientations formelles concernant l’utilisation des applications génératives de l’IA, en grande partie en raison de l’absence de réglementations nationales.

En juin 2023, l’UNESCO a alerté sur le fait que l’IA =est déployée à l’école à un rythme trop rapide, avec un manque préoccupant de contrôle, de surveillance ou de réglementation des pouvoirs publics. L’Organisation a publié un document révélant que la publication d’un nouveau manuel scolaire nécessite plus d’autorisations que l’utilisation d’outils d’IA générative en classe.