Lors d’une interview animée à la conférence TechCrunch Disrupt 2024 à San Francisco, le créateur de l’iPod, fondateur de Nest Labs et investisseur Tony Fadell a lancé une pique à l’encontre du PDG d’OpenAI, Sam Altman. Évoquant sa longue expérience dans le développement de l’IA et les sérieux problèmes posés par les hallucinations des modèles de langage (LLM), il a déclaré : « Ça fait 15 ans que je travaille sur l’IA, les amis, je ne fais pas que déblatérer des conneries – je ne suis pas Sam Altman, ok ? »
Fadell critique les « je-sais-tout » des LLM
Durant son interview, Tony Fadell a abordé de nombreux sujets, allant des « trous du cul » qui peuvent produire d’excellents produits aux problèmes des LLM actuels. Tout en admettant que les LLM sont « géniaux pour certaines choses », il a souligné qu’il restait de sérieuses inquiétudes à régler :
« Les LLM essaient d’être cette chose ‘générale’ parce qu’on essaie de faire advenir la science-fiction, a-t-il expliqué. [Les LLM sont] des je-sais-tout… Je déteste les je-sais-tout. »
À la place, Tony Fadell suggère qu’il préfèrerait utiliser des agents IA entraînés sur des choses spécifiques et plus transparents sur leurs erreurs et hallucinations. Ainsi, les gens pourraient tout savoir sur l’IA avant de l’ »embaucher » pour la tâche précise à accomplir.
Un plaidoyer pour une IA transparente
« Je les embauche pour m’éduquer, je les embauche pour être un copilote avec moi, ou je les embauche pour me remplacer », a détaillé Tony Fadell. « Je veux savoir ce qu’est cette chose », ajoutant que les gouvernements devraient s’impliquer pour forcer une telle transparence.
Sinon, a-t-il noté, les entreprises utilisant l’IA mettraient leurs réputations en jeu pour « une technologie à la con ». Actuellement, a souligné Tony Fadell, nous adoptons tous cette chose sans savoir quels problèmes elle cause. Un récent rapport indiquait que les médecins utilisant ChatGPT pour créer des dossiers de patients avaient des hallucinations dans 90% d’entre eux. « Ça pourrait tuer des gens », a-t-il poursuivi.
Une longue expérience de l’IA
La pique concernant Sam Altman est intervenue alors que Tony Fadell partageait avec le public qu’il travaille avec les technologies d’IA depuis des années. Nest, par exemple, utilisait déjà l’IA dans son thermostat en 2011. « On ne pouvait pas parler d’IA, on ne pouvait pas parler d’apprentissage automatique, parce que les gens prenaient peur – ‘Je ne veux pas d’IA chez moi’ – maintenant tout le monde veut de l’IA partout », a-t-il fait remarquer.
En résumé, Tony Fadell a vivement critiqué l’approche des LLM « généraux » tels que promus par Sam Altman et OpenAI, plaidant plutôt pour des agents IA spécialisés et transparents. Son expérience de longue date avec l’IA, notamment chez Nest, lui donne un point de vue unique sur les défis et les dangers des technologies d’IA actuelles. Sa prise de parole à TechCrunch Disrupt 2024 met en lumière les débats cruciaux sur la transparence et la responsabilité qui agitent le secteur de l’IA à l’heure où cette technologie transforme de plus en plus notre monde.
