Les parents et les élèves sont de plus en plus préoccupés par l’utilisation des technologies d’intelligence artificielle (IA) en classe, en particulier la technologie de reconnaissance faciale, selon une enquête du Center for Democracy and Technology (Centre pour la démocratie et la technologie, CDT ).

Le rapport du CDT, publié le 12 décembre, révèle que plus de la moitié des parents et des élèves interrogés s’inquiètent de l’utilisation de la reconnaissance faciale et d’autres technologies d’intelligence artificielle, y compris les systèmes de localisation, dans les écoles.

Les enseignants, qui ont également été interrogés, ont montré un degré d’acceptation plus élevé des technologies.

Selon le rapport, un nombre croissant d’écoles ont mis en place de tels outils.

Les partisans de ces technologies affirment qu’elles peuvent contribuer à protéger les environnements scolaires contre les menaces violentes, telles que les tireurs dans les écoles.

Les défenseurs de la vie privée soutiennent que les technologies qui présentent un risque pour la vie privée et les données personnelles des élèves n’ont pas prouvé qu’elles renforçaient la sécurité dans les écoles..

Un fossé profond entre les écoles, les parents et les élèves

Selon le CDT, “des outils de sécurité expérimentaux et potentiellement dangereux sont utilisés sans tenir compte des préoccupations des élèves et des parents”, y compris des technologies “que nous considérions auparavant comme trop extravagantes”.

Il s’agit notamment de l’analyse prédictive, de la surveillance à distance, de la reconnaissance faciale, du partage des données des forces de l’ordre, des systèmes de détection d’armes et de la géolocalisation des étudiants.

Poussées par [l’industrie de] l’IA, ces technologies “sont déployées dans les écoles pour répondre aux fusillades de masse, à la crise de la santé mentale des jeunes et à d’autres menaces permanentes pour la sécurité du personnel et des élèves”, a déclaré le CDT – une tendance “alarmante” selon laquelle les écoles poursuivent le déploiement de ces technologies en dépit des “niveaux élevés d’inquiétude” des parents et des élèves.

Ces “niveaux élevés d’inquiétude” étaient évidents dans les résultats de l’enquête:

58 % des parents et 55 % des élèves (et 33 % des enseignants) sont préoccupés par l’utilisation de caméras de reconnaissance faciale pour vérifier qui devrait être autorisé à entrer dans un bâtiment scolaire ou qui est autorisé à s’y trouver.
71 % des parents et 74 % des élèves (et 36 % des enseignants) se sont dits préoccupés par l’utilisation de ces technologies pour localiser physiquement les élèves.
60 % des parents et 58 % des élèves (et 31 % des enseignants) s’inquiètent de l’utilisation de caméras d’IA “pour remarquer des mouvements physiques inhabituels ou irréguliers”.
55% des parents et 45% des élèves (et 27% des enseignants) ont exprimé leur inquiétude quant à l’utilisation de ces technologies pour détecter les coups de feu dans l’enceinte de l’école.
69 % des élèves et des parents (et 36 % des enseignants) sont préoccupés par le fait que les données relatives aux élèves sont analysées afin de prédire quels élèves sont les plus susceptibles de commettre un crime, un acte violent ou un acte d’automutilation.
66 % des parents et 65 % des élèves (et 38 % des enseignants) ont exprimé leur inquiétude quant à la possibilité que les informations scolaires des élèves, telles que leurs notes et leur assiduité, soient communiquées aux forces de l’ordre.
68 % des parents et 71 % des élèves (et 37 % des enseignants) s’inquiètent de l’utilisation de ces technologies pour surveiller les comptes de médias sociaux des élèves.

Ces résultats montrent “un profond décalage entre les priorités des écoles, des parents et des élèves en ce qui concerne les décisions d’achat d’edtech [educational data and technology] “, écrit le CDT.

Les écoles utilisent les fonds de récupération COVID pour acheter des technologies de surveillance

accéder à l'article