Dans un effort pour combattre les arnaques publicitaires usurpant l’identité de célébrités, Meta élargit actuellement les tests de reconnaissance faciale sur ses plateformes Facebook et Instagram. L’objectif est de renforcer les mesures anti-fraude existantes comme les scans automatisés, rendant plus difficile pour les escrocs de duper les utilisateurs avec de fausses publicités.
Détecter les publicités « celeb-bait »
Les arnaqueurs utilisent souvent des images de personnalités publiques comme des créateurs de contenu ou des célébrités pour attirer l’attention sur des publicités menant à des sites frauduleux. Ce stratagème, appelé « celeb-bait », viole les politiques de Meta et nuit aux utilisateurs. Bien que de nombreuses publicités légitimes mettent en avant des célébrités, les annonces « celeb-bait » sont conçues pour sembler authentiques, les rendant difficiles à détecter.
Les nouveaux tests utilisent la reconnaissance faciale comme vérification supplémentaire pour les publicités signalées comme suspectes lorsqu’elles contiennent l’image d’une personnalité publique à risque. Meta compare alors les visages de la publicité avec les photos de profil Facebook et Instagram de la figure publique. Si une correspondance est confirmée et que la publicité est une arnaque, elle est bloquée. Meta affirme que les données faciales générées sont immédiatement supprimées après cette comparaison unique.
Des résultats prometteurs contre les deepfakes
Des tests préliminaires avec un petit groupe de célébrités et de personnalités publiques ont montré des résultats encourageants pour détecter et agir plus rapidement contre ce type d’arnaque. Meta pense également que cette approche serait efficace pour repérer les publicités frauduleuses utilisant des deepfakes, où l’IA générative a été utilisée pour produire de fausses images de personnes célèbres.
Dans les semaines à venir, un plus grand nombre de personnalités publiques touchées par le « celeb-bait » seront informées via des notifications in-app de leur inscription au système, avec la possibilité de se désinscrire à tout moment depuis leur centre de compte. La reconnaissance faciale est aussi testée pour détecter les comptes imposteurs de célébrités cherchant à étendre leurs possibilités de fraude.
Des selfies vidéo pour débloquer les comptes piratés
En plus de lutter contre les arnaques, Meta expérimente l’utilisation de la reconnaissance faciale sur des selfies vidéo pour permettre un déblocage plus rapide des comptes Facebook/Instagram piratés. Cette méthode de vérification d’identité ne prend qu’une minute et est présentée comme plus simple que le téléchargement d’une pièce d’identité officielle.
Dès qu’une personne télécharge un selfie vidéo, il est chiffré et stocké en toute sécurité. Il ne sera jamais visible sur son profil, pour ses amis ou d’autres personnes sur Facebook ou Instagram. Nous supprimons immédiatement toutes les données faciales générées après cette comparaison, qu’il y ait correspondance ou non.
Monika Bickert, VP of Content Policy chez Meta
Des tests hors UE et Royaume-Uni pour l’instant
Bien que ces tests de reconnaissance faciale soient menés à l’échelle mondiale, Meta a souligné qu’ils n’avaient pas lieu actuellement au Royaume-Uni ou dans l’Union Européenne, où s’appliquent des réglementations complètes sur la protection des données. Cela semble s’inscrire dans une stratégie de relations publiques plus large de Meta en Europe ces derniers mois, visant à faire pression sur les législateurs locaux pour diluer les protections de la vie privée des citoyens.
Néanmoins, l’utilisation de la reconnaissance faciale dans un but de sécurité restreint pourrait être acceptable pour certains et même réalisable pour Meta dans le cadre des règles existantes de protection des données, à condition d’obtenir le consentement explicite des personnes concernées. Mais l’utilisation des données des gens pour entraîner des modèles d’IA commerciaux est une toute autre histoire…
En résumé
- Meta teste la reconnaissance faciale pour détecter les arnaques publicitaires « celeb-bait » sur Facebook et Instagram
- Les selfies vidéo et l’IA sont aussi expérimentés pour une récupération plus rapide des comptes piratés
- Les tests sont menés mondialement sauf au Royaume-Uni et dans l’UE pour l’instant, en raison des réglementations sur la protection des données
- Un usage restreint de la reconnaissance faciale à des fins de sécurité pourrait être acceptable, mais pas pour entraîner des IA commerciales
Alors que Meta cherche de nouvelles façons d’exploiter les données biométriques, il reste à voir comment ces technologies seront encadrées pour respecter la vie privée des utilisateurs. La lutte contre la fraude est certes importante, mais elle ne doit pas se faire au détriment des droits fondamentaux numériques.
