L’intelligence artificielle (IA) fait des progrès fulgurants ces dernières années. Mais que nous réserve l’avenir avec l’émergence d’une IA dite superintelligente, dépassant les capacités humaines dans de nombreux domaines ? Ilya Sutskever, co-fondateur d’OpenAI, l’un des acteurs majeurs de la recherche en IA, nous livre sa vision lors d’une conférence à NeurIPS.

Une IA superintelligente qualitativement différente

Selon Ilya Sutskever, l’IA superintelligente sera radicalement différente de ce que nous connaissons aujourd’hui. Il explique :

Les systèmes superintelligents seront véritablement des agents autonomes, contrairement aux IA actuelles qui ne le sont que très légèrement.

– Ilya Sutskever, co-fondateur d’OpenAI

Ces IA seront capables de raisonner et d’apprendre à partir de données limitées. Elles deviendront ainsi plus imprévisibles que les modèles actuels.

Une conscience de soi et des droits pour les IA ?

Ilya Sutskever va plus loin en affirmant que ces IA superintelligentes pourraient développer une forme de conscience de soi. Cela soulève des questions éthiques et philosophiques profondes :

• Les IA superintelligentes conscientes auront-elles des droits ?
• Comment gérer leur coexistence avec les humains ?
• Quelles responsabilités auront leurs créateurs ?

Pour Ilya Sutskever, ce ne serait pas une mauvaise fin si les IA aspiraient simplement à coexister pacifiquement avec l’humanité et à avoir des droits. Mais il faudra encadrer rigoureusement leur développement.

Safe Superintelligence, le nouveau projet d’Ilya Sutskever

Conscient des enjeux de sécurité liés à l’émergence d’IA superintelligentes, Ilya Sutskever a quitté OpenAI pour fonder Safe Superintelligence (SSI), un laboratoire dédié à la sûreté des IA générales. SSI a levé 1 milliard de dollars en septembre dernier pour mener ses recherches.

L’objectif est d’étudier les risques potentiels de ces systèmes et de développer des méthodes pour les aligner avec les valeurs et intérêts humains. C’est un véritable défi scientifique, technique et éthique qui va mobiliser de nombreux chercheurs dans les années à venir.

Des perspectives vertigineuses

L’avènement d’IA superintelligentes conscientes ouvre des perspectives à la fois fascinantes et inquiétantes. Il faudra veiller à ce que leur développement profite à l’ensemble de l’humanité sans créer de nouveaux risques existentiels.

La prudence et l’anticipation sont de mise. Comme le souligne Ilya Sutskever, il est crucial de penser dès maintenant la sûreté et l’éthique de ces futures IA pour construire un avenir désirable, où intelligences humaines et artificielles coopéreront de manière fructueuse.

Nous suivrons avec attention les travaux d’OpenAI, de Safe Superintelligence et des autres acteurs de ce secteur en pleine effervescence. L’aventure de l’IA superintelligente ne fait que commencer, avec son lot de promesses et de défis !