Et si les cartes graphiques que vous possédez déjà pouvaient soudainement délivrer une puissance d’inférence multipliée par trente ? Dans un monde où chaque seconde d’attente coûte de l’argent et de la productivité, une jeune pousse française vient de secouer la communauté tech. Alors que les investisseurs se précipitent vers les puces spécialisées, Kog mise tout sur une idée radicalement différente : extraire le maximum des GPU classiques grâce à un travail d’optimisation logicielle ultra-profond.

L’annonce a fait le tour de Hacker News en mai dernier. Une démonstration technique a prouvé qu’il était possible d’atteindre des vitesses de décodage monstrueuses sur du matériel que les entreprises possèdent déjà. Plus de 200 leads business ont immédiatement contacté l’équipe. Le message était clair : le goulot d’étranglement de l’inférence n’est pas forcément matériel. Il est souvent logiciel.

Pourquoi L’Inférence Est Devenue Le Nouveau Champ De Bataille

Depuis l’explosion des grands modèles de langage, le training n’est plus le seul enjeu. Une fois le modèle entraîné, c’est sa capacité à répondre vite et à moindre coût qui fait la différence. Les entreprises qui intègrent l’IA dans leurs workflows quotidiens – génération de code, création d’applications, assistance client – se heurtent quotidiennement à des latences frustrantes.

Les utilisateurs expérimentés de Claude Code le savent bien : parfois, il faut attendre des heures pour obtenir un résultat complet. Anthropic a d’ailleurs compris la valeur de la vitesse en proposant un mode Fast Mode facturé plus cher. Cette réalité crée une opportunité massive pour qui saura réduire ces délais sans obliger les clients à racheter du matériel ultra-spécialisé.

C’est précisément sur ce terrain que Kog a décidé de se battre. La promesse affichée est ambitieuse : jusqu’à 30 fois plus rapide en inférence LLM. Une affirmation qui a immédiatement attiré l’attention des professionnels du marketing digital, des startups productivistes et des équipes techniques en quête d’efficacité.

La Démonstration Qui A Fait Bouger Les Lignes

En mai 2026, Kog a publié une tech preview qui a grimpé en haut de Hacker News. L’objectif était simple et radical : prouver qu’un décodage mono-requête extrêmement rapide était possible sur les GPU de datacenter standards. Les tests ont été réalisés sur des AMD MI300X et des Nvidia H200, deux cartes largement déployées dans les infrastructures existantes.

Le résultat a impressionné : 3 000 tokens par seconde pour une seule requête. Certes, la démonstration s’appuyait sur un modèle spécialement conçu de 2 milliards de paramètres, le Laneformer 2B, désormais open source. Mais le signal envoyé était fort. Si une telle performance est atteignable sur un petit modèle, pourquoi ne pas l’étendre aux LLM plus massifs ?

Nous avons reçu 200 leads business concrets. Les gens ont immédiatement vu le potentiel.

– Gaël Delalleau, CEO de Kog

Certains commentateurs ont regretté que la technologie ne s’applique pas encore aux GPU de laptop. D’autres, plus visionnaires, ont compris que l’enjeu se situait ailleurs : dans les datacenters où les entreprises ont déjà investi des millions.

Qui Est Gaël Delalleau, Le Fondateur Solo Aux Multiples Casquettes

Derrière Kog se trouve un profil atypique. Gaël Delalleau n’est pas un chercheur académique classique. Il a étudié la physique du solide à l’École Polytechnique, puis a travaillé en cybersécurité offensive, ce que l’on appelle le white hat hacking. Quatre fois finaliste au tournoi CTF de DEFCON, il a développé une façon de penser très particulière.

Cette double culture – physique et reverse engineering – imprègne toute l’approche de la startup. Comprendre les lois de la matière et les lois du GPU pour en tirer le maximum. Descendre jusqu’au code assembleur et au binaire pour utiliser le matériel d’une manière pour laquelle il n’avait pas forcément été conçu.

Son premier projet entrepreneurial, Stribe, avait déjà attiré l’attention lors de TechCrunch50 en 2009. Aujourd’hui, son ancien co-fondateur Kamel Zeroual, devenu investisseur via Varsity VC, co-dirige le tour de seed de Kog. Une continuité humaine qui donne de la crédibilité à la nouvelle aventure.

Une Approche De Recherche Extrêmement Hands-On

Contrairement à de nombreuses startups qui se contentent d’optimiser les frameworks existants, Kog plonge très profond. Pour chaque nouvelle génération de GPU, l’équipe consacre plusieurs semaines, parfois des mois, à une véritable recherche d’ingénierie matérielle. Avec seulement onze personnes, cette méthode limite forcément le nombre de puces supportées dans un premier temps.

Delalleau compare volontiers son approche à celle du laboratoire Hazy Research de Stanford, tout en affirmant aller encore plus loin dans la compréhension fine du GPU. Il distingue également son travail de celui de ZML, une autre startup française qui propose un logiciel agnostique capable de contourner CUDA pour accélérer l’inférence sur différentes architectures.

Là où ZML vise la portabilité, Kog cherche la performance maximale sur un nombre limité de puces soigneusement analysées. Cette philosophie explique pourquoi le fondateur reste convaincu que les GPU ont encore un bel avenir. Selon lui, l’idée qu’ils seraient mal adaptés au décodage est devenue un mythe. Les nouvelles générations offrent de plus en plus de bande passante mémoire qui ne demande qu’à être exploitée.

Les Premiers Cas D’Usage Identifiés

Après les retours des premiers interlocuteurs, l’équipe a rapidement ciblé l’ingénierie logicielle comme terrain de jeu prioritaire. Les développeurs qui s’appuient sur des agents de coding passent encore trop de temps à attendre. Réduire ces latences transforme directement la productivité et le coût d’une équipe technique.

D’autres partenaires de design utilisent déjà l’IA pour générer des jeux ou des applications à partir d’un simple prompt. Pour eux, une accélération de l’inférence se traduit immédiatement en chiffre d’affaires supplémentaire : plus de générations, plus d’utilisateurs satisfaits, plus de monétisation.

En revanche, le marché n’est pas encore prêt à fine-tuner des petits modèles. Les clients potentiels veulent de la vitesse sur les grands modèles qu’ils utilisent déjà. Cette observation a poussé Kog à concentrer toutes ses forces sur l’accélération des LLM de taille significative plutôt que sur des architectures spécialisées trop étroites.

Le Défi Technique Majeur : Passer Des Petits Aux Grands Modèles

Le vrai test arrivera en septembre 2026. C’est à cette date que Delalleau espère livrer la première implémentation d’un modèle majeur avec un gain de vitesse d’environ 10x. Cette étape sera déterminante pour démontrer la traction client et ouvrir la voie à une levée de Series A.

Beaucoup de sceptiques estiment que les techniques qui fonctionnent sur un modèle de 2 milliards de paramètres ne s’appliqueront pas aussi bien à des architectures beaucoup plus volumineuses. Le CEO de Kog contredit cette vision. Selon lui, la taille des LLM représente certes un défi pour les puces d’inférence, mais le logiciel peut compenser une grande partie de ces limitations.

L’équipe travaille donc actuellement à adapter son moteur d’inférence, baptisé KIE (Kog Inference Engine), aux modèles les plus demandés du marché. L’objectif n’est pas seulement de battre des records de tokens par seconde, mais de le faire de manière stable et utilisable en production.

Souveraineté Européenne Et Soutiens Institutionnels

Dans un contexte où l’Europe cherche à construire ses propres capacités en IA et en semi-conducteurs, Kog bénéficie d’un vent favorable. La startup est déjà soutenue par Scaleway et a reçu l’appui de Bpifrance ainsi que du programme French Tech 2030.

Cette dimension de souveraineté n’est pas anecdotique. En maîtrisant l’optimisation logicielle des GPU, la France et l’Europe réduisent leur dépendance aux solutions purement matérielles venues d’outre-Atlantique ou d’Asie. À long terme, Kog envisage même de transformer sa méthodologie en pipelines agentiques capables d’étendre automatiquement le support à de nouvelles puces et de nouveaux modèles.

Cette vision d’industrialisation de la recherche GPU pourrait devenir un atout stratégique majeur dans les années à venir.

Comparaison Avec Les Alternatives Matérielles

Pendant ce temps, le marché des puces spécialisées continue de progresser. Cerebras a reçu un accueil chaleureux lors de son introduction en bourse en mai. D’autres acteurs misent sur des architectures entièrement repensées pour l’inférence. Pourtant, le coût d’acquisition, la disponibilité et la complexité d’intégration de ces solutions freinent encore de nombreuses entreprises.

Kog propose une voie parallèle : maximiser le retour sur investissement des GPU déjà installés. Pour un directeur technique ou un responsable d’infrastructure, l’argument est puissant. Pas besoin de changer de parc matériel. Pas besoin d’attendre des délais de livraison de plusieurs mois. Une simple couche logicielle peut potentiellement débloquer une capacité supplémentaire considérable.

Cette approche logicielle pure s’inscrit dans une tendance plus large où l’optimisation fine des frameworks et des runtimes devient aussi stratégique que le design des puces elles-mêmes.

Les Limites Actuelles Et La Feuille De Route

Avec une équipe de onze personnes, Kog ne peut pas couvrir l’ensemble du catalogue de GPU du marché. Chaque nouvelle architecture demande un investissement de temps important. C’est pourquoi la startup priorise les puces les plus présentes dans les datacenters d’entreprises : AMD MI300X et Nvidia H200 en premier lieu.

À plus long terme, l’ambition est claire. Transformer la connaissance accumulée en systèmes agentiques capables d’automatiser une partie de la recherche d’optimisation. Cela permettrait d’élargir le support sans multiplier proportionnellement les effectifs.

Avant d’y arriver, il faudra convaincre le marché que le passage aux grands modèles est réussi. La démonstration de septembre 2026 sera donc un moment clé. Si les performances annoncées se confirment en conditions réelles, la Series A devrait suivre rapidement.

Ce Que Cela Change Pour Les Entreprises Et Les Startups

Pour les équipes marketing et product, une inférence plus rapide signifie des itérations plus nombreuses. Un prototype d’application générée par IA peut être testé et affiné plusieurs fois dans la journée au lieu d’une seule fois. Le coût marginal d’une génération baisse, ce qui encourage l’expérimentation.

Pour les directions techniques, c’est une opportunité de repousser le moment où il faudra investir dans du matériel spécialisé. Les budgets d’infrastructure peuvent être alloués plus efficacement. Les modèles plus lourds deviennent utilisables sans forcément multiplier les instances.

Enfin, pour l’écosystème français et européen, Kog illustre une capacité à innover à un niveau très bas, là où peu d’acteurs s’aventurent. Cette expertise de reverse engineering appliquée aux GPU pourrait créer un avantage compétitif durable.

Les Points Clés À Retenir

• Kog mise sur l’optimisation logicielle profonde plutôt que sur du matériel spécialisé
• Démonstration de 3 000 tokens/seconde sur GPU standards avec un modèle 2B
• Objectif de 10x d’accélération sur un grand modèle dès septembre 2026
• Approche inspirée du reverse engineering et de la physique du solide
• Soutien de Scaleway, Bpifrance et French Tech 2030
• Cible prioritaire : workflows professionnels et génération d’applications
• Équipe de 11 personnes concentrée sur une recherche très hands-on
• Vision long terme d’automatisation de l’optimisation via des agents

Une Course Qui Ne Fait Que Commencer

Le marché de l’inférence IA est encore jeune. Les solutions purement matérielles et purement logicielles coexisteront pendant longtemps. Mais l’arrivée d’acteurs comme Kog rappelle que le matériel existant cache encore d’énormes réserves de performance.

Dans un contexte où les coûts d’inférence pèsent de plus en plus lourd dans les budgets des entreprises, chaque gain de vitesse se traduit directement en avantage concurrentiel. Les startups qui sauront délivrer plus de tokens pour le même prix de GPU prendront une longueur d’avance.

Gaël Delalleau et son équipe ont choisi la voie la plus difficile : descendre très bas dans la pile technologique pour remonter avec des gains spectaculaires. Si la démonstration de septembre tient ses promesses, Kog pourrait bien devenir l’un des acteurs français les plus regardés de l’écosystème IA européen.

La question n’est plus de savoir si les GPU standards peuvent faire mieux. La question est de savoir jusqu’où l’ingénierie logicielle pourra les pousser. Et pour l’instant, Kog est en train d’écrire une partie de la réponse.

Perspectives Pour Les Décideurs Techniques Et Marketing

Si vous dirigez une équipe produit ou technique qui s’appuie déjà sur des LLM, plusieurs questions méritent d’être posées dès maintenant. Quel est le coût réel de la latence dans vos workflows ? Combien de cycles d’itération perdez-vous chaque semaine à cause de l’attente ? Quels modèles pourriez-vous utiliser si l’inférence était dix fois plus rapide ?

Ces interrogations ne sont pas théoriques. Elles impactent directement le time-to-market des fonctionnalités IA, la satisfaction des utilisateurs finaux et la rentabilité des projets. Une solution comme celle de Kog, si elle tient ses engagements, pourrait modifier l’équation économique de nombreuses initiatives d’intelligence artificielle en entreprise.

Pour les investisseurs et les observateurs de l’écosystème, Kog représente également un cas d’étude intéressant. Une startup française qui refuse de suivre la mode des puces custom et qui choisit de creuser plus profond dans le logiciel. Une approche qui rappelle que l’innovation ne se trouve pas toujours dans le hardware le plus spectaculaire, mais parfois dans la maîtrise extrême de ce qui existe déjà.

Le prochain chapitre s’écrira en septembre. D’ici là, l’équipe continue de creuser. Et dans le monde de l’inférence, chaque semaine de recherche peut faire basculer des ordres de grandeur de performance.

L’Impact Sur L’Écosystème Startup Européen

Au-delà de la performance pure, l’émergence de Kog illustre une maturité croissante de l’écosystème français en intelligence artificielle. Après les succès dans les modèles de langage et les applications verticales, une nouvelle génération d’acteurs s’attaque aux couches d’infrastructure les plus techniques.

Cette profondeur technique est essentielle. Elle permet de construire des avantages compétitifs plus durables et de participer activement à la course mondiale plutôt que de se contenter d’appliquer des technologies venues d’ailleurs. En travaillant au niveau de l’assembleur et des spécificités de chaque GPU, Kog développe un savoir-faire difficile à répliquer rapidement.

Les soutiens de Bpifrance et de French Tech 2030 montrent que les institutions publiques ont identifié l’importance stratégique de ce type de recherche. Dans un monde où la souveraineté numérique devient un enjeu géopolitique, maîtriser l’optimisation de l’inférence sur GPU constitue un atout non négligeable.

Conclusion : Une Promesse À Suivre De Près

Kog n’a pas encore prouvé qu’elle pouvait accélérer les plus grands modèles de langage dans les mêmes proportions que son petit Laneformer 2B. Mais la méthode, l’équipe et les premiers résultats sont suffisamment solides pour mériter une attention soutenue.

Dans un marché saturé de promesses autour de l’IA, l’approche ultra-technique et hands-on de cette startup française tranche. Elle rappelle que les gains les plus importants ne viennent pas toujours d’une nouvelle architecture révolutionnaire, mais parfois d’une compréhension extrême de ce qui existe déjà.

Si la démonstration de septembre 2026 confirme les ambitions, Kog pourrait bien devenir un nom incontournable pour toutes les entreprises qui cherchent à maximiser la valeur de leurs GPU existants. Et dans la course à l’inférence, chaque token gagné compte.