L'intelligence artificielle dans l'éducation ne doit pas saper le rôle professionnel des enseignant·e·s
Publié:
Rubriques connexes
Le 7 juin 2021, le Bureau du CSEE a adopté la position du CSEE concernant les réglementations européennes pour l’intelligence artificielle. Le Règlement a été proposé par la Commission européenne le 21 avril 2021 et vise à harmoniser les règles pour le développement de l'intelligence artificielle (IA) dans tous les secteurs par le biais d’une approche fondée sur l’analyse des risques.
Dans sa position, le CSEE se félicite de la classification des outils d'IA à des fins pédagogiques comme une activité à haut risque et soutient la proposition d'introduire des exigences juridiques horizontales plus strictes auxquelles doivent se conformer les outils d’IA avant d'être autorisés sur le marché du secteur de l'éducation. Cependant, le CSEE appelle à des mesures claires et contraignantes, y compris des lignes directrices éthiques, pour s'attaquer aux nombreux problèmes éthiques liées à l'IA telles que la fiabilité, la responsabilisation, la confidentialité des données, l'égalité et la transparence des outils d'IA.
En plus de souligner que l'intelligence artificielle dans l'éducation doit être développée conformément aux besoins professionnels des enseignant·e·s, le CSEE demande l'interdiction des outils d'IA conçus pour remplacer ou réduire le rôle professionnel des enseignant·e·s et du personnel éducatif. Compte tenu de l'expansion rapide des entreprises de technologie de l'éducation et de la commercialisation et de la privatisation croissantes de l'éducation, le CSEE souligne l'importance de protéger la valeur publique de l'éducation des intérêts privés. La position appelle à une plus grande responsabilité publique de la part des gouvernements nationaux qui devraient développer activement des plateformes publiques pour l'enseignement en ligne, dans le plein respect de l'autonomie professionnelle et de la liberté académique des enseignant·e·s et des autres personnels de l'éducation.
Comme le Règlement suggère la mise en place d'un système de gouvernance, le CSEE souligne que les enseignant·e·s, les universitaires et les autres personnels de l'éducation doivent être impliqué·e·s en tant que co-créateur·trice·s des outils d'IA dans l'éducation plutôt que comme de simples utilisateur·trice·s. En outre, il est crucial d'impliquer activement les partenaires sociaux de l'éducation dans le futur «Comité européen de de l'intelligence artificielle», chargé de surveiller la mise en œuvre du Règlement par le biais de consultations régulières et d'un dialogue social tant au niveau national qu'européen.
Concernant la transparence et la fiabilité des systèmes d'IA, le CSEE souligne que fournir des informations sur les systèmes d'IA ne suffit pas si les enseignant·e·s et les élèves ne disposent pas des compétences numériques appropriés pour les interpréter. Par conséquent, le CSEE exige l'introduction des compétences numériques, de la formation à l'IA et aux données dans les programmes scolaires et le développement professionnel initial et continu des enseignant·e·s, ainsi qu'un accès égalitaire aux outils TIC pour l’ensemble des enseignant·e·s et des élèves. Dans ce cadre, il est essentiel de garantir des investissements publics adéquats aux niveaux national et européen, par exemple via Digital Europe, Horizon Europe et les plans nationaux de Facilité pour la reprise et la résilience.
Enfin, en raison de la sous-représentation des femmes et des minorités ethniques dans les filières STEAM[1], le CSEE observe le risque de l'émergence de biais les lors du développement des outils d’IA et de la formation à leur utilisation. Par conséquent, fournir un d'investissement durable plus important pour encourager la diversité dans les filières STEAM devrait être une priorité.
Les organisations membres du CSEE sont encouragées à utiliser la position du CSEE pour faire part de leurs commentaires sur cette proposition législative, qui est ouverte à la consultation publique jusqu'au 6 août 2021.
Pour en savoir plus:
Consultation publique sur le Règlement en matière d’intelligence artificielle
[1] Les filières STEAM concernent les domaines de la science, de la technologie, de l'ingénierie, des arts (libéraux) et des mathématiques