Dans un signe des temps, la startup de logiciels ServiceTitan a émis une mise en garde importante sur les risques liés à l’utilisation de l’intelligence artificielle générative et des grands modèles de langage (LLM) de Microsoft et OpenAI dans son dossier d’introduction en bourse déposé lundi. Cette mention pourrait bien devenir un nouveau classique des facteurs de risque listés par les entreprises technologiques.
ServiceTitan met en lumière les défis de l’IA
Dans une section de 1150 mots, ServiceTitan détaille comment son utilisation de l’IA, et en particulier de l’IA générative, pourrait avoir un impact négatif sur ses activités. La startup pointe du doigt plusieurs problèmes potentiels :
- Les comportements hallucinatoires des LLM pouvant produire des informations inexactes
- Les risques de biais et de discrimination des modèles
- Les questions de propriété intellectuelle et de copyright
- L’exposition accrue des données clients à de potentielles failles de sécurité
ServiceTitan s’inquiète également de possibles problèmes éthiques et sociétaux liés à l’IA, ainsi que de futures réglementations qui pourraient lui coûter cher. Sans compter les difficultés à recruter des experts en IA, une denrée rare et chère, pour développer ses produits.
Une dépendance risquée envers Microsoft et OpenAI
Autre source de préoccupation pour ServiceTitan : sa dépendance envers les services d’IA de tiers comme Microsoft et OpenAI, sur lesquels l’entreprise n’a aucun contrôle. Si ces fournisseurs venaient à être indisponibles ou rencontrer des problèmes, cela aurait un impact direct sur les produits de ServiceTitan.
ServiceTitan opère à la croisée des secteurs où l’on attend que l’IA générative, et en particulier les agents conversationnels basés sur les LLM, dominent à l’avenir.
L’IA générative, avenir du CRM et du service client
ServiceTitan propose des logiciels destinés aux petites entreprises de services : entrepreneurs en bâtiment, professionnels CVC, paysagistes… Ses outils couvrent des fonctions comme le marketing, la gestion de la relation client (CRM), le support client et la comptabilité.
Or, les agents d’IA conversationnelle s’imposent à vitesse grand V dans tous les domaines liés aux ventes, au marketing et à la relation client. Marc Benioff, PDG de Salesforce, leader mondial du CRM, a même déclaré que sa société pourrait compter un milliard d’agents d’IA travaillant pour ses clients d’ici un an !
ServiceTitan, un précurseur de l’IA dans les services
ServiceTitan propose des fonctionnalités alimentées par l’IA depuis au moins 2023 avec Titan Intelligence. En octobre dernier, la startup a également lancé une suite d’agents d’IA pour les ventes, le service client et les centres d’appels.
Mais les grands modèles de langage comme ceux de Microsoft et OpenAI ont été conçus pour étudier des mots, des images et des données afin de créer leurs propres versions des choses. Autrement dit, ils sont programmés pour inventer. Les scientifiques d’OpenAI travaillent d’ailleurs d’arrache-pied pour se rapprocher d’une intelligence générale, c’est-à-dire une IA encore plus créative, capable d’inférer comme un humain.
Fiabilité des LLM : un défi à relever pour les entreprises
Bien sûr, la question de la fiabilité des LLM pour un usage professionnel devrait être résolue avec le temps, à mesure que de plus en plus d’entreprises se spécialisent dans des agents d’IA où la fiabilité primera sur la créativité.
Mais il est intéressant de noter que même ceux qui vendent aujourd’hui des chatbots d’IA admettent, dans les petites lignes de leurs mentions légales, qu’à ce stade précoce, l’adoption de l’IA pourrait créer autant de problèmes qu’elle n’en résout. Une mise en garde qui pourrait bien se démocratiser à l’avenir dans les documents officiels des entreprises technologiques…
