L’IA est en train de révolutionner le monde de l’entreprise. Cependant, son adoption n’est pas sans risques. Les entreprises qui tardent à l’implémenter risquent de rater des gains de productivité et d’autres avantages potentiels. Mais celles qui s’y lancent sans précaution s’exposent à des menaces non maîtrisées. C’est là qu’intervient une nouvelle vague de startups spécialisées dans la « sécurité pour l’IA », à l’instar de la spin-off universitaire britannique Mindgard.
L’IA est un logiciel comme les autres, avec ses risques spécifiques
Comme l’explique le Pr Peter Garraghan, PDG et CTO de Mindgard, « L’IA reste un logiciel, donc tous les cyber-risques dont vous avez probablement entendu parler s’appliquent aussi à l’IA. » Mais la nature opaque et le comportement intrinsèquement aléatoire des réseaux de neurones justifient une nouvelle approche.
C’est pourquoi Mindgard a développé un outil de test de sécurité des applications dynamiques pour l’IA (DAST-AI). Il cible les vulnérabilités qui ne peuvent être détectées qu’en cours d’exécution, via un red teaming continu et automatisé, simulant des attaques basées sur la bibliothèque de menaces de Mindgard.
Une technologie issue de la recherche universitaire
La technologie de Mindgard s’appuie sur l’expertise du Pr Garraghan en matière de sécurité de l’IA. Bien que le domaine évolue rapidement, il a su anticiper les nouvelles menaces qui pèseraient sur les modèles de traitement du langage naturel (NLP) et d’images. Ses liens continus avec l’Université de Lancaster permettront à l’entreprise de rester à la pointe, avec la propriété intellectuelle des travaux de 18 doctorants supplémentaires pour les prochaines années.
Un produit commercial clé en main
Bien qu’issue de la recherche, la solution Mindgard est d’ores et déjà un produit SaaS disponible commercialement. Elle cible à la fois les grandes entreprises, les équipes de red teaming et pen testing traditionnelles, mais aussi les startups d’IA qui doivent démontrer à leurs clients qu’elles font de la prévention des risques liés à l’IA.
Une levée de fonds pour conquérir le marché américain
Afin de mieux servir ses nombreux clients potentiels basés aux États-Unis, Mindgard vient de boucler une levée de fonds de 8 millions de dollars menée par le fonds bostonien .406 Ventures. Cela lui permettra de renforcer son équipe, de poursuivre ses efforts de R&D et de développement produit, mais aussi d’étendre sa présence outre-Atlantique, tout en conservant son pôle R&D et ingénierie à Londres.
« Nous avons créé cette entreprise pour avoir un impact positif sur le monde, et cet impact positif est de permettre aux gens de faire confiance à l’IA et de l’utiliser de manière sûre et sécurisée. »
– Peter Garraghan, PDG et CTO de Mindgard
En bref
- Mindgard est une spin-off universitaire britannique qui développe une solution DAST-AI pour protéger les entreprises contre les vulnérabilités de l’IA
- Sa technologie s’appuie sur l’expertise du Pr Peter Garraghan en matière de sécurité de l’IA et sur les travaux de recherche de l’Université de Lancaster
- La startup cible les grandes entreprises, les équipes de red teaming et pen testing, ainsi que les startups d’IA
- Elle vient de lever 8 millions de dollars pour renforcer son équipe, poursuivre sa R&D et étendre sa présence aux États-Unis
Avec l’essor de l’IA dans les entreprises, les menaces de sécurité spécifiques à cette technologie ne manqueront pas de se multiplier. Mais Mindgard compte bien être au rendez-vous pour permettre à ses clients d’utiliser l’IA en toute confiance.
Afin de mieux servir ses nombreux clients potentiels basés aux États-Unis, Mindgard vient de boucler une levée de fonds de 8 millions de dollars menée par le fonds bostonien .406 Ventures. Cela lui permettra de renforcer son équipe, de poursuivre ses efforts de R&D et de développement produit, mais aussi d’étendre sa présence outre-Atlantique, tout en conservant son pôle R&D et ingénierie à Londres.
« Nous avons créé cette entreprise pour avoir un impact positif sur le monde, et cet impact positif est de permettre aux gens de faire confiance à l’IA et de l’utiliser de manière sûre et sécurisée. »
– Peter Garraghan, PDG et CTO de Mindgard
En bref
- Mindgard est une spin-off universitaire britannique qui développe une solution DAST-AI pour protéger les entreprises contre les vulnérabilités de l’IA
- Sa technologie s’appuie sur l’expertise du Pr Peter Garraghan en matière de sécurité de l’IA et sur les travaux de recherche de l’Université de Lancaster
- La startup cible les grandes entreprises, les équipes de red teaming et pen testing, ainsi que les startups d’IA
- Elle vient de lever 8 millions de dollars pour renforcer son équipe, poursuivre sa R&D et étendre sa présence aux États-Unis
Avec l’essor de l’IA dans les entreprises, les menaces de sécurité spécifiques à cette technologie ne manqueront pas de se multiplier. Mais Mindgard compte bien être au rendez-vous pour permettre à ses clients d’utiliser l’IA en toute confiance.
