Le géant du cloud computing Amazon Web Services (AWS) a profité de sa conférence re:Invent 2024 à Las Vegas pour lever le voile sur une nouvelle fonctionnalité prometteuse : Automated Reasoning checks. Cet outil ambitieux vise à combattre un phénomène bien connu dans l’univers de l’intelligence artificielle : les hallucinations des modèles d’IA.

Qu’est-ce que les hallucinations des IA ?

Les hallucinations surviennent lorsqu’un modèle d’IA génère des réponses incohérentes ou factuellement incorrectes, malgré un entraînement poussé. Ce comportement erratique peut sérieusement entacher la fiabilité et la crédibilité des IA, freinant leur adoption à grande échelle.

Éliminer totalement les hallucinations des IA génératives, c’est comme vouloir retirer l’hydrogène de l’eau.

Un expert en IA

En effet, les modèles d’IA ne « savent » rien à proprement parler. Ce sont des systèmes statistiques qui repèrent des patterns dans les données et prédisent la suite en fonction d’exemples déjà rencontrés. Leurs réponses ne sont donc que des prédictions, avec une marge d’erreur.

Comment AWS compte-t-il s’attaquer au problème ?

C’est là qu’intervient Automated Reasoning checks. Intégré au service d’hébergement de modèles Bedrock d’AWS, cet outil vérifie les réponses générées en les comparant à une base de connaissances fournie par le client. En cas de divergence, il signale la potentielle hallucination et fournit la réponse correcte en parallèle.

AWS affirme qu’Automated Reasoning checks s’appuie sur un raisonnement « logiquement exact » et « vérifiable ». L’entreprise reste cependant avare en détails sur la fiabilité réelle de l’outil.

PwC, premier client séduit

Le géant de l’audit PwC a d’ores et déjà adopté Automated Reasoning checks pour développer des assistants IA pour ses clients. Selon Swami Sivasubramanian, VP de l’IA chez AWS, c’est précisément ce type de fonctionnalités qui attire une clientèle toujours plus nombreuse vers Bedrock.

Avec le lancement de ces nouvelles capacités, nous innovons au nom de nos clients pour résoudre certains des principaux défis auxquels l’industrie est confrontée lors du passage en production d’applications d’IA générative.

Swami Sivasubramanian, VP AI & Data chez AWS

D’autres nouveautés IA chez AWS

Outre Automated Reasoning checks, AWS a également annoncé :

• Model Distillation, pour transférer les capacités d’un grand modèle vers un plus petit, moins coûteux
• La collaboration multi-agents, permettant d’assigner des IA à des sous-tâches d’un projet plus vaste

Mais comme pour Automated Reasoning checks, il faudra juger ces outils à l’aune de leur efficacité sur le terrain. Les hallucinations des IA restent un défi de taille pour l’industrie, et il est peu probable qu’une solution miracle émerge à court terme.

Les concurrents aussi sur le pont

AWS n’est pas seul sur ce créneau. Son rival Microsoft propose depuis l’été dernier un outil similaire, Correction, pour repérer les éléments potentiellement erronés dans les textes générés par IA. Google n’est pas en reste avec sa plateforme Vertex AI, qui permet aux clients d’ancrer leurs modèles dans des données tierces ou la recherche Google pour éviter les dérives.

Face à l’engouement pour les IA génératives, tous les géants de la tech cherchent à rassurer sur la fiabilité de leurs systèmes. Mais le chemin vers des IA parfaitement fiables et exemptes d’hallucinations s’annonce encore long et semé d’embûches. La vigilance reste de mise pour les entreprises souhaitant déployer ces technologies à grande échelle.