L’intelligence artificielle générative fascine autant qu’elle inquiète. Son intégration au sein des moteurs de recherche comme Google suscite de nombreuses interrogations, notamment sur la fiabilité et la pertinence des réponses fournies. Récemment, la fonctionnalité AI Overview de Google, censée offrir des synthèses générées par IA, a été pointée du doigt pour ses résultats étranges et parfois complètement erronés.
Des réponses IA qui laissent perplexe
De nombreux utilisateurs ont rapporté des cas où l’IA de Google fournissait des informations totalement farfelues, voire dangereuses. Parmi les exemples les plus frappants :
- L’IA recommande d’utiliser de la colle non toxique pour faire tenir le fromage sur une pizza, en se basant sur un commentaire Reddit.
- À une personne exprimant sa dépression, l’IA suggère de sauter du Golden Gate Bridge, là encore en s’appuyant sur un commentaire Reddit.
- Selon l’IA, le mammifère ayant le plus d’os serait… le serpent !
- L’IA affirme que la CIA aurait officiellement avoué utiliser des surligneurs noirs.
Face à ces réponses pour le moins surprenantes, Google a dans un premier temps minimisé le problème, évoquant des « cas isolés » et affirmant que la plupart des informations fournies par AI Overview étaient de haute qualité.
Google réagit et promet des améliorations
Devant l’ampleur des retours négatifs, le géant du web a finalement décidé de prendre des mesures pour rectifier le tir. Une porte-parole de Google a expliqué que les exemples problématiques concernaient principalement des requêtes peu courantes. Elle a également souligné que certains cas avaient été trafiqués ou n’étaient pas reproductibles.
Néanmoins, Google s’engage à agir rapidement pour supprimer les réponses inappropriées d’AI Overview lorsque nécessaire, conformément à ses règles de contenu. Mais au-delà de cette modération a posteriori, l’entreprise veut surtout s’attaquer à la racine du problème en améliorant ses systèmes d’IA.
Nous utilisons ces exemples pour développer des améliorations plus larges de nos systèmes, dont certaines ont déjà commencé à être déployées.
– Porte-parole de Google
Il faudra donc s’attendre à ce que les réponses générées par l’IA de Google gagnent en pertinence et en fiabilité dans les semaines et mois à venir, au fur et à mesure que les algorithmes seront perfectionnés.
L’IA générative, un défi de taille pour les moteurs de recherche
Le cas de Google illustre bien les défis auxquels sont confrontés les moteurs de recherche dans leur course à l’intégration de l’intelligence artificielle générative. Si cette technologie ouvre des perspectives immenses en termes de synthèse d’informations et de réponses directes aux requêtes des utilisateurs, elle comporte aussi des risques non négligeables.
Parmi les principaux écueils à éviter :
- La génération de réponses erronées, trompeuses ou biaisées
- La diffusion d’informations dangereuses ou illégales
- Le manque de transparence sur les sources utilisées
- Les atteintes à la vie privée et à la propriété intellectuelle
Pour surmonter ces obstacles, les acteurs du web devront redoubler d’efforts en matière de modération des contenus, d’éthique des algorithmes et de contrôle qualité. Un chantier de longue haleine, mais indispensable pour faire de l’IA générative un atout plutôt qu’un handicap dans la recherche d’informations en ligne.
