Dans une récente interview à l’Economic Club de Washington D.C., Garry Tan, le président et CEO du célèbre accélérateur de startups Y Combinator, a partagé ses réflexions sur la nécessité d’une certaine réglementation de l’intelligence artificielle (IA), tout en mettant en garde contre les dangers des monopoles dans ce domaine en pleine effervescence.
Un soutien nuancé à la réglementation de l’IA
Garry Tan s’est dit globalement favorable à l’initiative du National Institute of Standards and Technology (NIST) visant à établir un cadre pour atténuer les risques liés à l’IA générative. Il estime également que les grandes lignes du décret présidentiel de l’administration Biden sur l’IA « sont probablement sur la bonne voie ».
Ce cadre du NIST propose notamment que l’IA générative respecte les lois existantes sur la protection des données et le droit d’auteur, que son utilisation soit divulguée aux utilisateurs finaux, et que des réglementations interdisent à l’IA de créer des contenus pédopornographiques. Le décret de Biden couvre un large éventail de mesures, allant de l’obligation pour les entreprises d’IA de partager leurs données de sécurité avec le gouvernement à la garantie d’un accès équitable pour les petits développeurs.
Des inquiétudes sur certains projets de loi
Cependant, comme beaucoup de capital-risqueurs de la Silicon Valley, Tan s’inquiète d’autres efforts réglementaires. Il qualifie de « très préoccupants » les projets de loi sur l’IA qui font leur chemin dans les législatures de Californie et de San Francisco. L’un d’eux, proposé par le sénateur californien Scott Wiener, permettrait au procureur général de poursuivre les entreprises d’IA si leurs produits s’avèrent nocifs.
« La grande discussion en termes de politique en ce moment est de savoir à quoi ressemblerait une bonne version de cela », souligne Tan. « Nous pouvons nous tourner vers des gens comme Ian Hogarth, au Royaume-Uni, pour avoir une réflexion approfondie. Ils sont également conscients de cette idée de concentration du pouvoir. En même temps, ils essaient de déterminer comment nous pouvons soutenir l’innovation tout en atténuant les pires dommages possibles. »
Y Combinator mise gros sur l’IA
Malgré ces réserves, Y Combinator continue de miser fortement sur l’IA. Sa dernière promotion hivernale comptait 86 startups d’IA, soit près du double par rapport à l’hiver précédent et près du triple par rapport à l’hiver 2021. Tan voit dans l’IA des opportunités pour de nouvelles entreprises immenses et lucratives.
« Nous aimons penser aux startups comme à un labyrinthe d’idées », explique-t-il. « Lorsqu’une nouvelle technologie émerge, comme les grands modèles de langage, tout le labyrinthe d’idées est chamboulé. ChatGPT lui-même a probablement été l’un des produits grand public à connaître le succès le plus rapide ces derniers temps. Et c’est une bonne nouvelle pour les fondateurs. »
San Francisco, épicentre de l’IA
Garry Tan souligne également que San Francisco est au cœur du mouvement de l’IA. C’est là que sont nées des pépites comme Anthropic et OpenAI, toutes deux issues de Y Combinator. Il plaisante en disant qu’il ne compte pas suivre les traces de Sam Altman, le CEO d’OpenAI, qui a occupé son poste chez Y Combinator il y a quelques années, et qu’il n’a « pas l’intention de créer un laboratoire d’IA ».
L’avenir de l’IA selon Garry Tan
En ce qui concerne l’avenir de l’IA, Tan affirme qu’il faut évidemment « être intelligent » face aux risques de bioterrorisme et de cyberattaques. Mais en même temps, il prône une « approche beaucoup plus mesurée ». Il ne pense pas qu’il y aura un modèle de « winner-take-all », mais plutôt « un incroyable jardin de choix pour les consommateurs, de liberté et de possibilités pour les fondateurs de créer quelque chose qui touche un milliard de personnes ».
C’est en tout cas ce qu’il espère. Cela servirait au mieux ses intérêts et ceux de Y Combinator : beaucoup de startups prospères rapportant beaucoup d’argent aux investisseurs. Donc, ce qui fait le plus peur à Tan, ce ne sont pas des IA incontrôlables, mais une pénurie d’IA parmi lesquelles choisir.
« Nous pourrions en fait nous retrouver dans cette autre situation vraiment monopolistique où il y a une grande concentration dans seulement quelques modèles, met-il en garde. Alors on parle d’extraction de rente, et on a un monde dans lequel je ne veux pas vivre. »
En fin de compte, Garry Tan et Y Combinator naviguent sur la ligne de crête entre soutien à une régulation nécessaire de l’IA et défense d’un écosystème dynamique et innovant de startups. Un équilibre délicat qui sera sans doute l’un des grands enjeux des années à venir dans le monde de la tech.
- L’IA a besoin d’une certaine réglementation pour atténuer les risques
- Mais il faut éviter une concentration excessive du pouvoir entre quelques acteurs
- Y Combinator mise gros sur l’IA et les opportunités qu’elle offre aux startups
