Le débat sur la régulation de l’intelligence artificielle s’intensifie alors que la Californie envisage une loi visant à prévenir les catastrophes liées à l’IA. Deux acteurs majeurs, OpenAI et Anthropic, adoptent des positions contrastées qui révèlent les enjeux cruciaux de l’avenir de cette technologie.
OpenAI s’oppose au projet de loi californien SB 1047
OpenAI, le créateur du célèbre ChatGPT, a décidé de s’opposer au projet de loi SB 1047 en Californie. Cette législation ambitieuse vise à mettre en place des garde-fous pour prévenir les dérives potentielles de l’IA. Pourtant, Sam Altman, le dirigeant d’OpenAI, avait précédemment appelé à une régulation du secteur. Cette volte-face suscite des interrogations.
Deux anciens chercheurs d’OpenAI, Daniel Kokotajlo et William Saunders, qui avaient démissionné cette année en raison de préoccupations sur la sécurité de l’IA, expriment leur déception face à cette décision :
Sam Altman, notre ancien patron, a répété à maintes reprises qu’une régulation de l’IA était nécessaire. Maintenant que des mesures concrètes sont sur la table, il s’y oppose.
– Daniel Kokotajlo et William Saunders, ex-chercheurs d’OpenAI
OpenAI justifie sa position en arguant que la régulation de l’IA doit se faire au niveau fédéral, étant donné ses implications pour la sécurité nationale et la compétitivité. Mais cette explication ne convainc pas tout le monde.
Anthropic soutient le projet de loi, avec des réserves
De son côté, Anthropic, le rival d’OpenAI, a exprimé son soutien au projet de loi SB 1047, tout en émettant certaines réserves. La startup a fait part de préoccupations spécifiques et demandé des amendements, dont plusieurs ont depuis été intégrés.
Dario Amodei, le PDG d’Anthropic, a écrit au gouverneur de Californie Gavin Newsom, estimant que les avantages du projet de loi dans sa forme actuelle l’emportaient probablement sur ses coûts, sans pour autant lui apporter un soutien inconditionnel.
Les enjeux cruciaux de la régulation de l’IA
Au-delà des prises de position d’OpenAI et d’Anthropic, ce débat met en lumière les défis majeurs posés par le développement fulgurant de l’IA :
- Comment concilier innovation et sécurité ?
- Quel équilibre trouver entre progrès technologique et éthique ?
- Quelle échelle pertinente pour la régulation : État, pays ou monde ?
La Californie, berceau de la Silicon Valley, se trouve à l’avant-garde de ces réflexions. Les choix qui y seront faits pourraient bien servir de modèle pour d’autres législations à venir.
Vers une IA responsable et bénéfique
Au final, l’objectif est de bâtir un cadre qui permette à l’IA de déployer tout son potentiel au service de l’humanité, tout en prévenant les risques de dérive. Un défi de taille, qui nécessitera la collaboration de tous les acteurs : entreprises, chercheurs, régulateurs et citoyens.
Les prochains mois seront décisifs pour dessiner les contours de l’IA de demain. Un avenir qui oscille entre promesses et périls, et qu’il nous appartient collectivement de façonner.
