L’intelligence artificielle générative fait des vagues dans de nombreux domaines, mais une tendance inquiétante émerge : le spam des revues académiques par des articles générés par l’IA. Cette évolution soulève des questions sur l’intégrité de la recherche et les systèmes d’évaluation des chercheurs.
Des revues entièrement générées par l’IA
Selon un article publié sur le blog Retraction Watch, qui suit les rétractations d’études académiques, trois revues publiées par Addleton Academic Publishers semblent être composées entièrement d’articles générés par l’IA. Ces revues suivent le même modèle, avec des articles bourrés de buzzwords comme « blockchain », « métavers », « internet des objets » et « apprentissage profond ». Elles listent le même comité éditorial, dont 10 membres sont décédés, et une adresse vague à Queens, New York, qui s’avère être une maison.
Manipulation des systèmes d’évaluation des chercheurs
Le vrai problème est la facilité avec laquelle ces faux journaux peuvent manipuler les systèmes utilisés pour évaluer les chercheurs pour les promotions et les embauches. Sur CiteScore, un système d’évaluation largement utilisé, ces revues se classent dans le top 10 pour la recherche en philosophie. Comment est-ce possible ? Elles se citent abondamment entre elles, et CiteScore prend en compte les citations dans ses calculs.
Ces classements servent souvent aux universités et aux organismes de financement comme indicateurs de la qualité de la recherche. Ils jouent un rôle crucial dans les décisions concernant les prix académiques, l’embauche et la promotion, et peuvent donc influencer les stratégies de publication des chercheurs.
– Tomasz Żuradzk et Leszek Wroński, assistants professeurs de philosophie
L’IA générative perturbe les systèmes établis
Bien que CiteScore soit clairement un système imparfait, il n’en reste pas moins que l’IA générative et ses abus perturbent des systèmes dont dépendent les moyens de subsistance des gens, de manière inattendue et potentiellement très dommageable. Nous avons le choix entre deux futurs :
- Un avenir où l’IA générative nous pousse à repenser et à réorganiser des systèmes comme CiteScore pour les rendre plus équitables, holistiques et inclusifs.
- Un avenir plus sombre où l’IA générative continue de semer le chaos, de faire des ravages et de ruiner des vies professionnelles.
Il est urgent de prendre les mesures nécessaires pour encadrer l’IA générative et prévenir ses dérives. La crédibilité de la recherche académique et les carrières de nombreux chercheurs en dépendent.
Autres actualités de l’IA cette semaine
En dehors de cette problématique préoccupante, l’IA continue de progresser sur de nombreux fronts :
- DeepMind développe une IA capable de générer des bandes-son pour les vidéos
- Des chercheurs japonais ont créé un robot humanoïde capable de conduire une voiture
- Genspark, un nouveau moteur de recherche alimenté par l’IA, lève 60 millions de dollars
- Combien coûte réellement ChatGPT ? La réponse n’est pas si simple
L’IA façonne notre monde à une vitesse vertigineuse. Il est crucial de rester vigilant face à ses dérives potentielles tout en continuant à explorer ses immenses possibilités.
L’IA façonne notre monde à une vitesse vertigineuse. Il est crucial de rester vigilant face à ses dérives potentielles tout en continuant à explorer ses immenses possibilités.
