Dans un contexte où l’intelligence artificielle générative révolutionne de nombreux secteurs, la question de la sécurité de ces nouvelles technologies est plus que jamais d’actualité. C’est dans cette optique que la startup suisse Lakera, qui développe des solutions pour protéger les applications d’IA des vulnérabilités, vient de lever 20 millions de dollars lors d’un tour de table de série A mené par le fonds européen Atomico.
Une technologie de pointe pour sécuriser l’IA générative
Fondée en 2021 à Zurich, Lakera s’est donnée pour mission de protéger les entreprises contre les failles de sécurité liées aux grands modèles de langage (LLM), les moteurs qui font tourner l’IA générative. Son produit phare, Lakera Guard, agit comme un pare-feu applicatif à faible latence qui sécurise le trafic entrant et sortant des applications d’IA générative.
Pour détecter les attaques malveillantes telles que les injections de prompts en temps réel, Lakera s’appuie sur une base de données alimentée par de multiples sources :
- Jeux de données open source publics comme ceux hébergés sur Hugging Face
- Recherches internes en machine learning
- Un jeu interactif appelé Gandalf qui invite les utilisateurs à tenter de lui faire révéler un mot de passe secret
Nous sommes orientés IA, construisant nos propres modèles pour détecter les attaques malveillantes telles que les injections de prompts en temps réel.
– David Haber, CEO et co-fondateur de Lakera.
Une modération de contenu adaptée aux besoins des entreprises
Au-delà de la détection des prompts malveillants, Lakera a également développé des modèles spécialisés qui analysent les prompts et les sorties des applications pour y déceler tout contenu toxique. Des détecteurs dédiés repèrent les discours haineux, les contenus à caractère sexuel, la violence et les grossièretés.
Grâce à un tableau de bord centralisé, les entreprises peuvent ajuster finement les seuils de détection selon le type de contenu, pour une modération sur mesure. Cette fonctionnalité est particulièrement utile pour les applications grand public comme les chatbots.
Une expansion mondiale dynamisée par ce nouveau financement
Fort de cette levée de fonds de 20 millions de dollars, Lakera compte bien accélérer son déploiement à l’international, en particulier aux États-Unis où la startup revendique déjà plusieurs clients de renom comme Respell et Cohere.
Selon David Haber, les grandes entreprises, les sociétés SaaS et les fournisseurs de modèles d’IA sont tous engagés dans une course pour déployer des applications d’IA sécurisées. Si le secteur des services financiers, conscient des risques, fait figure de précurseur, l’intérêt pour les solutions de Lakera s’étend à de nombreuses industries.
Avec cette nouvelle manne financière, la jeune pousse zurichoise entend bien consolider sa position d’acteur incontournable de la cybersécurité appliquée à l’IA générative, un marché en plein essor qui suscite un intérêt croissant des investisseurs. Outre Atomico, ce tour de table a vu la participation du fonds de capital-risque de Dropbox, de Citi Ventures et de Redalpine.
