Gadgetshowto
La technologie de reconnaissance faciale n'est plus un gadget. Il est de plus en plus utilisé de manière plus piétonne et ne montre aucun signe de ralentissement. Aujourd'hui, en plus d'être utilisée pour déverrouiller vos smartphones, la reconnaissance faciale a atteint tous les coins et recoins. En fait, la technologie est utilisée par les policiers chinois pour identifier les suspects.
Cependant, selon une nouvelle recherche du Media Lab du MIT, il semble que la technologie de reconnaissance faciale soit sujette à des préjugés basés sur le sexe et la race. Joy Buolamwini, chercheuse au MIT Media Lab, a construit un ensemble de données de 1270 visages. Elle a ensuite testé la précision de trois systèmes de reconnaissance faciale de Microsoft, IBM et Megvii (une entreprise chinoise). Étonnamment, le résultat a montré des inexactitudes dans l'identification du sexe.
Lorsque les systèmes ont montré les photos d'hommes à la peau plus claire, ils ont pu les identifier assez facilement. Cependant, le système a mal identifié jusqu'à 12 pour cent des hommes à la peau plus foncée; et jusqu'à 35% des femelles à la peau plus foncée.
«Dans l'ensemble, les sujets masculins ont été classés plus précisément que les sujets féminins reproduisant les résultats précédents (Ngan et al., 2015), et les sujets plus clairs ont été classés plus précisément que les individus plus foncés.» - Joy Buolamwini
À cela, IBM a déclaré avoir constamment amélioré son logiciel d'analyse faciale et était «profondément engagé» en faveur de services «impartiaux» et «transparents». Microsoft, en revanche, a déclaré: «Nous avons déjà pris des mesures pour améliorer la précision de notre technologie de reconnaissance faciale »et nous avons investi dans la recherche« pour reconnaître, comprendre et éliminer les préjugés.»Et enfin, Megvii n'a pas répondu.
Cela étant dit, ce n'est pas la première fois que la technologie de reconnaissance faciale s'avère inexacte. En 2015, Google a été interpellé par un ingénieur logiciel lorsque l'application Photos a identifié son ami noir comme étant des «gorilles».
