L’intelligence artificielle (IA) fait constamment l’objet d’avancées spectaculaires, mais son accessibilité reste souvent limitée en raison des coûts prohibitifs liés à l’entraînement des modèles. C’était du moins le cas jusqu’à récemment. Une équipe de chercheurs de l’UC Berkeley, NovaSky, vient en effet de franchir un cap majeur en rendant open source Sky-T1, un modèle d’IA dit « raisonnable », entraînable pour la modique somme de 450$.

Sky-T1 : Un modèle révolutionnaire et abordable

Sky-T1-32B-Preview, c’est son nom complet, se positionne comme un véritable modèle de raisonnement compétitif face aux ténors du domaine comme le o1 d’OpenAI. Sa particularité ? En plus de ses performances remarquables, Sky-T1 est le premier modèle de raisonnement entièrement open source. NovaSky a en effet mis à disposition l’ensemble des données d’entraînement ainsi que le code nécessaire pour reproduire le modèle de A à Z.

Fait remarquable, Sky-T1-32B-Preview a été entraîné pour moins de 450$, démontrant qu’il est possible de répliquer des capacités de raisonnement de haut niveau de manière abordable et efficace.

– L’équipe NovaSky

Là où l’entraînement de tels modèles nécessitait encore récemment des budgets de plusieurs millions de dollars, Sky-T1 prouve qu’il est désormais possible de développer une IA raisonnable pour une fraction de ce coût. Cette prouesse a été rendue possible grâce à l’utilisation de données d’entraînement synthétiques, c’est-à-dire générées par d’autres modèles.

Des performances étonnantes malgré un coût réduit

Contrairement aux modèles d’IA classiques, les modèles de raisonnement comme Sky-T1 s’auto-vérifient, ce qui leur permet d’éviter certains écueils courants. Bien qu’ils nécessitent généralement quelques secondes à quelques minutes de plus pour parvenir à une solution, ils se montrent beaucoup plus fiables dans des domaines comme la physique, les sciences ou les mathématiques.

Et les résultats sont au rendez-vous. Selon NovaSky, Sky-T1 surpasse une version préliminaire du modèle o1 d’OpenAI sur plusieurs benchmarks clés :

• MATH500 : un ensemble de défis mathématiques de niveau compétition
• LiveCodeBench : des problèmes de codage complexes

Certes, Sky-T1 ne parvient pas encore à égaler o1 sur des questions pointues de physique, biologie ou chimie (GPQA-Diamond), mais il ne s’agit que d’un premier pas pour NovaSky qui compte bien poursuivre ses efforts pour développer des modèles open source toujours plus performants.

La démocratisation de l’IA raisonnable est en marche

Sky-T1 marque une étape importante dans la démocratisation de l’IA raisonnable. En rendant accessible à tous un modèle performant pour un coût dérisoire, NovaSky ouvre la voie à de nouvelles applications et innovations.

Grâce aux données synthétiques et à l’optimisation des processus d’entraînement, il est désormais envisageable pour des startups, des universitaires ou même des particuliers passionnés de développer leurs propres modèles d’IA raisonnable. Les possibilités offertes par cette technologie devenant plus abordable sont immenses, que ce soit en termes de recherche, d’éducation ou d’applications commerciales.

À l’avenir, nous nous concentrerons sur le développement de modèles plus efficaces qui maintiennent de solides performances de raisonnement et explorerons des techniques avancées qui améliorent encore l’efficacité et la précision des modèles lors des tests. Restez à l’écoute alors que nous progressons sur ces initiatives passionnantes.

– L’équipe NovaSky

Nul doute que les avancées à venir de NovaSky et d’autres acteurs engagés dans l’open source sauront nous surprendre et façonner le paysage de l’IA de demain. Sky-T1 n’est que le premier pas vers une intelligence artificielle plus accessible, plus performante et au service de tous.