AIED ethics, a managerial perspective

Emile Hoareau (1) , Sihem Amer-Yahia (2) , Philippe Dessus (3, 4)

1 CERAG - Centre d'études et de recherches appliquées à la gestion
2 LIG - Laboratoire d'Informatique de Grenoble
3 LaRAC - Laboratoire de Recherche sur les Apprentissages en Contexte
4 M-PSI - Multimodal Perception and Sociable Interaction

This research in progress aims to address how values are integrated into Artificial Intelligence Education systems. Recent research points out ethical issues associated with Artificial Intelligence in Education (AIED). While existing studies are based on opinion experts, e.g. researchers on AI in Education (AIED), we take a manager’s perspective. Doing this, we refer to the Value Sensitive Design (VSD) approach to address the following question: “How values are integrated in AIED systems from a manager's perspective?”. We applied the case study method to seven French educational platforms. We already made the first data collection to obtain an overview of each platform. In a second phase, not yet launched, we plan to study in detail the design process of the AIED project of a few selected platforms. The preliminary results highlight the French landscape of AIED systems and the predominance of researchers as managers responsible for educational platforms.

Cette recherche en cours vise à étudier la manière dont les valeurs sont intégrées dans les systèmes d’Intelligence Artificielle (IA) en éducation (AIED en anglais). Des recherches récentes mettent en évidence les questions éthiques associées à l'AIED. Alors que les études existantes sont basées sur l'opinion d'experts, notamment de chercheurs, nous adoptons la perspective des managers. Nous nous référons ainsi à l’approche Value Sensitive Design (VSD) pour répondre à la question suivante : « Comment les valeurs sont-elles intégrées dans les systèmes d'AIED du point de vue des managers ? » Nous souhaitons réaliser des études de cas avec sept plateformes éducatives françaises. Une collecte de données a déjà été effectuée, nous prévoyons de poursuivre par une second phase centrée sur l’étude du cas des plateformes. Les résultats préliminaires mettent en évidence le paysage français des systèmes AIED, et la prédominance des chercheurs en tant que gestionnaires responsables des plateformes éducatives.

Mots clés: Artificial Intelligence; Education; Case study; Value Sensitive Design; Values

Mots clés: Intelligence Artificielle; Éducation; Étude de cas; Value Sensitive Design; Valeurs

Domaines: Intelligence artificielle [cs.AI]; Gestion et management

Emile Hoareau, Sihem Amer-Yahia, Philippe Dessus. AIED ethics, a managerial perspective. 29e conférence de l'Association Information et Management (AIM), May 2024, Montpellier, France. ⟨hal-04702418⟩