L’Union américaine pour les libertés civiles (ACLU) a réalisé un test avec le système de reconnaissance faciale d’Amazon utilisé par la police américaine. Ce dernier a pour objectif de démontrer le manque de fiabilité de cette technologie. L’ACLU, la principale association de défense des droits de l’Homme outre-Atlantique, a voulu aller plus loin en démontrant la faillibilité du logiciel de reconnaissance faciale et ses biais, et les résultats n’étaient pas bons.
Le test de reconnaissance faciale d’Amazon en échec
Pour tester l’exactitude du système, l’ACLU a scanné les visages des 535 membres du congrès contre 25 000 clichés publics, en utilisant l’API Rekognition ouverte d’Amazon. Aucun des membres du Congrès ne figurait dans la liste des mugshots. Pourtant, le système d’Amazon a généré 28 fausses correspondances, une constatation que l’ACLU considère comme de sérieuses inquiétudes quant à l’utilisation de la reconnaissance faciale par la police. Une identification exacte ou non pourrait coûter aux gens leur liberté ou même leur vie selon le groupe dans un communiqué. Le Congrès doit prendre ces menaces au sérieux, frapper les freins et adopter un moratoire sur l’utilisation de la reconnaissance faciale par les forces de l’ordre.
Une identification erronée peut couter la vie des personnes ou leur liberté
Selon le représentant, il ne serait pas approprié d’identifier les individus avec un niveau raisonnable de certitude (80 %). La reconnaissance faciale n’applique pas cette recommandation pendant le processus d’installation. En outre, rien n’empêche les organismes d’application de la loi d’utiliser le paramètre par défaut. La reconnaissance faciale d’Amazon est venue à l’importance en mai, quand un rapport ACLU a montré le système utilisé par un certain nombre d’organismes d’application de la loi, y compris un pilote de reconnaissance en temps réel par la police d’Orlando. Vendu dans le cadre de l’offre cloud d’Amazon Web Services, le logiciel était extrêmement peu coûteux, coûtant souvent moins de 12 dollars par mois pour l’ensemble d’un département. Le pilote Orlando a depuis expiré, bien que le département continue d’utiliser le système.
Le test a également montré des signes de préjugés raciaux, un problème de longue date pour de nombreux systèmes de reconnaissance faciale. 11 des 28 fausses correspondances ont confondu des personnes de couleur (environ 39 %), y compris le chef des droits civiques, le représentant John Lewis (D-GA) et cinq autres membres du Congressional Black Caucus. Seuls vingt pour cent des membres actuels du Congrès sont des personnes de couleur. Ce qui indique que les taux de faux appariements ont affecté les membres de couleur à un taux significativement plus élevé. Cette découverte fait écho aux disparités constatées par le test du fournisseur de reconnaissance faciale du NIST. Ce dernier a montré des taux d’erreur systématiquement plus élevés pour les tests de reconnaissance faciale sur les femmes et les Afro-Américains.
