Les technologies

Les écoles américaines utilisent l'IA pour surveiller les étudiants

Les écoles américaines utilisent l'IA pour surveiller les étudiants

Au cours des 10 dernières années, les États-Unis ont été témoins de 180 fusillades dans des écoles faisant 356 victimes. Avec des lois plus faibles sur le contrôle des armes à feu dans le pays, les écoles se tournent vers Intelligence artificielle (IA) pour protéger les étudiants. Mais un système d'intelligence artificielle récent installé dans près de 9 écoles publiques américaines, selon Recode, a soulevé des problèmes de confidentialité.

Le logiciel basé sur l'IA s'appelle Appearance Search et est développé par une société nommée Avigilon. Le logiciel est capable de trouver un étudiant sur un campus scolaire, en fonction de son apparence, de son âge, de son sexe, de ses vêtements et de certaines caractéristiques du visage.

Le logiciel permet à la direction de l'école de localiser un élève et de trouver les emplacements possibles où il se trouve à l'intérieur du campus où se trouvent des caméras de surveillance. Il utilise des descriptions physiques comme l'âge, le sexe et la couleur des cheveux de la personne. En analysant les caractéristiques, le logiciel recherche des correspondances à partir des autres séquences vidéo. Ainsi, l'outil ne peut pas dire qui est exactement la personne, mais il peut dire où elle aurait pu se trouver pendant son séjour dans la zone scolaire.

Fonctionnement de la recherche d'apparence

Le logiciel est intégré au système de surveillance de l'école. Ainsi, si un agent de sécurité scolaire est témoin d'une activité étudiante suspecte, il / elle peut cliquer sur le corps de l'élève en particulier pour obtenir plus d'informations sur l'élève. Les logiciels analysera les propriétés physiques de l'élève comme les vêtements, le sexe, la couleur des cheveux et ce que dit l'Avigilon certaines caractéristiques du visage. Après avoir analysé lesdites caractéristiques, le logiciel fera alors correspondre l'image avec n'importe quelle image ayant des caractéristiques similaires à d'autres flux de caméra..

Les problèmes de confidentialité

Comme d'habitude, les logiciels d'IA s'accompagnent de problèmes de confidentialité évidents et ce logiciel n'est pas différent. De nombreux experts en sécurité et en confidentialité ont remis en question la recherche d'apparence d'Avigilon.

«Les gens ne se comportent pas de la même façon lorsqu'ils sont surveillés», rappelle Brenda Leong, directrice de l'IA et de l'éthique au Future of Privacy Forum. «Voulons-nous vraiment que les jeunes étudiants et les lycéens, ainsi que quiconque, aient l'impression de travailler dans cet environnement tout le temps?

Bien que ce logiciel soit censé augmenter la sécurité et réduire la violence dans les écoles, il est utilisé d'une manière différente. Les administrateurs scolaires utilisent cet outil pour surveiller l'intimidation, les violations du code de conduite par les élèves et également pour faciliter les enquêtes sur les employés de l'école..

Cette technologie n'est pas entièrement basé sur la reconnaissance faciale, cependant, c'est un logiciel qui peut reconnaître certaines caractéristiques du visage. Varoon Mathur, un universitaire étudiant l'apprentissage automatique à l'Institut AI Now considère que la recherche d'apparence utilise la «détection d'objets». Alors que Logan Koepke de la reprise des droits numériques à but non lucratif appelle cela un logiciel de «détection de personne» car il analyse d'autres caractéristiques de la personne et pas exclusivement le visage.

Avec ce logiciel en cours d'élaboration dans la plupart des écoles des États-Unis, les étudiants ne peuvent jamais avoir de vie privée. Les administrateurs de l'école ont signalé qu'il n'y avait eu aucun rapport d'atteinte à la vie privée concernant le logiciel.

Mais l'ancien élève du lycée Marjory Stoneman Douglas (une école où le logiciel a déjà été installé), Koerber a déclaré: «Une fusillade scolaire peut avoir lieu à tout moment et en tout lieu. Nous savons que. Mais devons-nous envahir la vie privée de chaque personne qui s'inscrit dans une école particulière pour empêcher cela? Je ne pense pas que ce soit le cas.

Un groupe de hackers `` anonyme '' attaque 40 sites de pornographie juvénile
Un groupe hacktiviste «anonyme» a revendiqué la mise hors ligne de plus de 40 sites Web utilisés pour partager de la pornographie juvénile et pour avo...
Comment activer le mode restreint de YouTube sur un ordinateur ou un téléphone
Nous apprenons beaucoup de nouvelles choses sur Internet et bien que le Web puisse généralement être un endroit amusant et éducatif, c'est aussi un en...
Pourquoi et comment activer l'authentification à deux facteurs pour iCloud
Si vous êtes un utilisateur Apple, vous avez définitivement un compte iCloud. Après tout, c'est le seul moyen de découvrir l'écosystème Apple dans tou...