Imaginez un monde où n’importe qui pourrait usurper votre voix à l’aide de l’intelligence artificielle. C’est la menace croissante à laquelle nous sommes confrontés avec la prolifération des deepfakes, ces contenus synthétiques hyperréalistes générés par l’IA. Heureusement, des entreprises comme Pindrop sont là pour nous protéger. Cette startup d’Atlanta vient de décrocher un prêt de 100 millions de dollars sur 5 ans auprès d’Hercules Capital pour développer ses solutions anti-deepfakes et embaucher de nouveaux talents.
L’authentification vocale au cœur de la détection des deepfakes
Pindrop se positionne comme un leader dans la lutte contre les deepfakes grâce à ses technologies d’authentification vocale. Leurs outils permettraient d’identifier les appelants dans les centres d’appels avec une précision supérieure à celle des solutions concurrentes. Pour y parvenir, Pindrop s’appuie sur un vaste jeu de données de plus de 20 millions d’échantillons vocaux, à la fois authentiques et synthétiques. Leur IA est ainsi entraînée à différencier une vraie voix humaine d’un deepfake, en analysant les caractéristiques acoustiques et spectro-temporelles plutôt que la prononciation ou le langage.
Relever le défi des biais dans les modèles de détection
Un des enjeux majeurs dans la détection des deepfakes vocaux est le biais des modèles, souvent entraînés sur des voix occidentales et anglophones. Ils peuvent ainsi mal performer face à des accents ou dialectes variés, en classant à tort une voix légitime comme un deepfake. Vijay Balasubramaniyan, CEO et co-fondateur de Pindrop, explique leur approche :
Les systèmes de reconnaissance vocale par IA ont tendance à produire des résultats biaisés en fonction des différences de ton, d’accent, de vernaculaire et de dialecte, ce qui peut avoir des implications raciales. Ces biais proviennent de l’homogénéité des données utilisées pour entraîner les systèmes, qui peuvent manquer de représentation des différences ethniques, raciales, de genre ou autres, limitant ainsi la variété des données sur lesquelles les systèmes d’IA sont formés.
100 millions de dollars pour sécuriser de nouveaux secteurs
Avec cette nouvelle injection de capitaux, Pindrop compte étendre ses solutions à de nouveaux secteurs comme la santé, la vente au détail, les médias et le voyage. La menace des deepfakes ne se limite en effet pas à la finance et nécessite une vigilance dans tous les domaines. Comme le souligne Vijay Balasubramaniyan :
Avec l’avènement de l’IA générative, nous constatons une demande massive pour nos solutions dans le monde entier et prévoyons de nous développer dans des pays qui sont confrontés à des menaces importantes en raison des deepfakes.
Les fonds serviront également à embaucher de nouveaux talents pour accompagner cette croissance. Fondée en 2011, la startup emploie déjà 250 personnes et a levé au total près de 235 millions de dollars auprès d’investisseurs de renom comme Andreessen Horowitz ou CapitalG.
Deepfakes : une menace grandissante à l’ère de l’IA générative
L’essor de l’IA générative a démocratisé la création de deepfakes, avec une hausse de 245% dans le monde entre 2023 et 2024 selon Sumsub. Outre l’influence sur les élections, cette technologie impacte aussi les entreprises :
- 10% des sociétés ont été victimes de fraude assistée par deepfake (sondage Business.com)
- Les centres d’appels sont particulièrement exposés avec le clonage de voix
- Les secteurs de la finance, de la santé et de la vente au détail sont des cibles privilégiées
Face à ce défi, les solutions comme celles de Pindrop s’avèrent cruciales pour authentifier les voix et détecter les deepfakes. En combinant vastes jeux de données, IA et prise en compte des biais, elles permettent de rester un coup d’avance sur les fraudeurs. Une course à l’armement technologique qui ne fait que commencer à l’ère de l’IA générative, mais qui mobilise déjà des investissements colossaux. Les 100 millions levés par Pindrop en sont la preuve éclatante.
