Imaginez un monde où votre visage devient votre pire ennemi. Où une simple photo peut mener à une arrestation injustifiée. C’est malheureusement la réalité à laquelle font face certains citoyens lorsque les forces de l’ordre utilisent la reconnaissance faciale sans garde-fous. Mais à Détroit, les choses sont en train de changer.
Un accord historique pour encadrer la reconnaissance faciale
Suite à une action en justice, le département de police de Détroit vient de s’engager à mettre en place de nouvelles règles strictes concernant l’utilisation des technologies de reconnaissance faciale. Cet accord, décrit par l’ACLU comme « les politiques et pratiques les plus solides du pays pour restreindre l’utilisation de cette technologie dangereuse par les forces de l’ordre », marque un tournant majeur.
Parmi les mesures phares :
- Interdiction des arrestations basées uniquement sur la reconnaissance faciale
- Nécessité de preuves supplémentaires pour les tapissages photo post-reconnaissance
- Formation obligatoire des policiers sur les risques de la technologie
- Audit de tous les cas impliquant la reconnaissance faciale depuis 2017
Ces règles, qui pourront être appliquées par un tribunal pendant 4 ans, visent à prévenir les dérives et protéger les citoyens. Car comme le souligne l’ACLU, les femmes et les personnes de couleur sont beaucoup plus susceptibles d’être mal identifiées par les algorithmes de reconnaissance faciale.
30h de prison à cause d’une erreur de l’IA
Cette affaire fait écho au cas de Roger Williams, un homme noir qui a passé 30 heures en prison après avoir été identifié à tort par un logiciel de reconnaissance faciale. Sa photo de permis de conduire avait été « matchée » avec celle d’un voleur de montres, menant à son arrestation.
Avec ce douloureux chapitre de notre vie qui se referme, ma femme et moi allons continuer à sensibiliser sur les dangers de cette technologie.
– Roger Williams, victime d’une erreur de reconnaissance faciale
Si les charges ont finalement été abandonnées, cela illustre les dérives possibles de ces systèmes lorsqu’ils sont utilisés sans discernement. D’où l’importance de l’accord trouvé à Détroit, qui prévoit d’ailleurs une indemnisation de 300 000 dollars pour M. Williams.
Vers une réglementation nationale de la reconnaissance faciale ?
Au-delà de Détroit, c’est tout le débat sur l’encadrement de l’IA qui est relancé. Plusieurs villes comme San Francisco ont déjà interdit l’usage de la reconnaissance faciale par la police. Microsoft a également cessé de fournir cette technologie aux forces de l’ordre.
Mais pour beaucoup, une réglementation nationale voire internationale est nécessaire. Il faut des règles claires et uniformes pour garantir un usage éthique et responsable de ces outils, en prenant en compte les risques de biais et d’atteintes à la vie privée.
L’accord de Détroit est un pas dans la bonne direction, qui pourrait servir de modèle comme l’espère le département de police. Mais le chemin est encore long pour instaurer la confiance dans ces technologies. Une confiance qui passe par la transparence, le contrôle citoyen et la primauté des droits humains.
