Dans un contexte où l’adoption rapide de l’intelligence artificielle (IA) expose les entreprises à de nouveaux risques de cybersécurité, une startup émergente nommée Noma Security sort de l’ombre pour proposer des solutions innovantes. Leur objectif : identifier les failles de sécurité dans les pipelines de données et le code des environnements de data science, ainsi que les menaces telles que les attaques par injection.
Un Besoin Croissant de Sécuriser les Applications IA
Selon un récent sondage mené auprès de plus de 350 responsables informatiques, plus de la moitié des dirigeants interrogés estiment que la complexité des applications IA a affaibli la posture de cybersécurité de leur organisation. De plus, plus de deux cinquièmes des dirigeants pensent que leurs équipes de sécurité manquent des compétences nécessaires pour protéger efficacement leurs applications et charges de travail IA.
Face à cette demande grandissante, plusieurs startups ont émergé, chacune avec sa spécialité :
- HiddenLayer et Protect AI se concentrent sur la défense des systèmes IA contre les attaques adverses
- Cranium offre une visibilité sur les systèmes IA au niveau applicatif
Noma Security, une Approche Globale de la Sécurité IA
C’est dans ce contexte que Noma Security se démarque, en proposant une solution complète allant de l’identification des pipelines de données vulnérables à la détection des menaces spécifiques à l’IA comme les attaques par injection de prompts.
Niv Braun, co-fondateur et PDG de Noma, explique avoir lancé l’entreprise après avoir constaté un « angle mort significatif » pour les équipes de sécurité dans le cycle de vie des données et de l’IA lors de son passage chez Verint, une société d’automatisation de l’expérience client.
Les outils existants sont conçus pour le cycle de vie logiciel traditionnel. Cependant, le cycle de vie des données et de l’IA est fondamentalement différent. Il implique des processus de R&D distincts, repose sur des technologies différentes et est confronté à des vulnérabilités techniques uniques au sein des modèles d’IA.
– Niv Braun, co-fondateur et PDG de Noma Security
Identification des Erreurs de Configuration et Données Sensibles
La plateforme Noma est conçue pour aider à repérer et à corriger les erreurs de configuration dans les composants utilisés pour développer et exécuter des applications IA. Par exemple, elle analyse les jeux de données d’entraînement des modèles à la recherche de données « sensibles », comme du texte contenant des informations personnellement identifiables.
Selon Braun, les entreprises peuvent être mieux équipées pour faire face aux menaces si elles peuvent consolider les fonctions de sécurité des applications IA dans un tableau de bord unique, déployable dans des environnements cloud et auto-hébergés.
De nombreuses solutions de sécurité à fonction unique inondent le marché, essayant de capitaliser sur le battage médiatique autour de l’IA. En aidant les entreprises à comprendre l’empreinte de leurs applications IA et en leur donnant des contrôles de gouvernance, Noma ne se contente pas d’aider les organisations à minimiser et atténuer les risques, mais leur donne également la confiance dont elles ont besoin pour étendre leur utilisation de l’IA plus rapidement et à des parties plus stratégiques de l’entreprise.
– Niv Braun, co-fondateur et PDG de Noma Security
Une Startup Prometteuse Soutenue par des Investisseurs de Renom
Fondée en 2023, Noma Security compte déjà des clients payants, dont des entreprises du Fortune 500 dans les domaines des logiciels B2B, des services financiers et du commerce de détail. La startup a récemment clôturé un tour de financement de série A de 25 millions de dollars, ce qui porte le total des capitaux levés à 32 millions de dollars.
Ballistic Ventures a mené la série A de Noma, tandis que Glilot Capital Partners, avec la participation de Cyber Club London, avait mené un tour d’amorçage de 7 millions de dollars non divulgué auparavant. Braun indique que Noma prévoit de doubler la taille de son équipe de 20 personnes au cours de l’année à venir.
Avec son approche globale de la sécurité des applications IA et le soutien d’investisseurs renommés, Noma Security semble bien positionnée pour répondre aux besoins croissants des entreprises en matière de protection de leurs actifs IA. Alors que l’adoption de l’IA continue de s’accélérer, des solutions comme celles proposées par Noma joueront un rôle essentiel pour permettre aux organisations d’exploiter pleinement le potentiel de l’IA tout en maîtrisant les risques associés.
