Et si la quête effrénée pour dominer l’intelligence artificielle générale (AGI) nous menait droit à une crise mondiale ? C’est la question que soulève Eric Schmidt, ex-PDG de Google, dans un récent papier stratégique qui fait déjà couler beaucoup d’encre. Publié le 5 mars 2025 sur TechCrunch, ce document co-signé avec Alexandr Wang (Scale AI) et Dan Hendrycks (Center for AI Safety) remet en question l’idée d’un grand projet centralisé, façon Manhattan Project, pour développer une IA surpassant l’intelligence humaine. À l’heure où les États-Unis et la Chine se livrent une guerre froide technologique, cette prise de position interpelle. Pourquoi refuser une course à l’armement numérique ? Quelles alternatives propose-t-on ? Plongeons dans cette réflexion qui pourrait redéfinir l’avenir de l’IA, des startups tech et des stratégies business globales.

Un Projet Style Manhattan : Une Fausse Bonne Idée ?

Imaginez un instant : un programme massif, financé par le gouvernement américain, mobilisant les meilleurs cerveaux pour créer une superintelligence. Sur le papier, cela semble séduisant, surtout dans un contexte où la compétition avec la Chine s’intensifie. Pourtant, Schmidt et ses co-auteurs tirent la sonnette d’alarme. Selon eux, un tel projet risquerait de provoquer une réaction hostile de Pékin, allant jusqu’à des cyberattaques massives pour contrer cette avance. Loin de garantir la suprématie, cette approche pourrait au contraire fragiliser les relations internationales et plonger le monde dans une instabilité imprévisible.

Le parallèle avec le projet Manhattan, qui a donné naissance à la bombe atomique dans les années 1940, n’est pas anodin. À l’époque, les États-Unis avaient les moyens de monopoliser une technologie destructrice. Aujourd’hui, avec l’IA, les cartes sont différentes : la Chine dispose de ressources, de talents et d’une volonté farouche de ne pas se laisser distancer. Forcer la main pourrait donc être perçu comme une menace existentielle, poussant l’adversaire à riposter avant même que l’AGI ne voie le jour.

MAIM : Une Nouvelle Doctrine Pour L’IA

Face à ce constat, les auteurs introduisent un concept intrigant : le Mutual Assured AI Malfunction (MAIM), ou en français, la « panne mutuelle assurée de l’IA ». L’idée ? Plutôt que de chercher à dominer la course à la superintelligence, les grandes puissances devraient s’assurer mutuellement qu’aucune ne franchisse certaines lignes rouges. Cela passerait par des actions proactives, comme des cyberattaques ciblées pour neutraliser des projets d’IA jugés dangereux, avant qu’ils ne deviennent une menace globale.

Un projet Manhattan pour l’AGI suppose que les rivaux accepteront un déséquilibre durable ou une annihilation, plutôt que de tout faire pour l’empêcher.

– Eric Schmidt, Alexandr Wang et Dan Hendrycks

Ce concept s’inspire directement de la doctrine de la destruction mutuelle assurée, qui a stabilisé la guerre froide nucléaire. Appliqué à l’IA, il suggère une forme de dissuasion technologique où chaque camp sait que l’autre peut désactiver ses avancées critiques. Une idée audacieuse, mais qui soulève des questions : jusqu’où aller dans cette guerre numérique sans déclencher un conflit plus large ?

Une Course À L’IA Sous Tension

La rivalité entre les États-Unis et la Chine dans le domaine de l’IA n’est plus un secret pour personne. Récemment, une commission du Congrès américain a plaidé pour un effort massif inspiré du Manhattan Project, tandis que le secrétaire à l’Énergie, Chris Wright, a qualifié le développement actuel de l’IA de « nouveau Manhattan Project ». Pourtant, Schmidt et ses collègues estiment que cette approche manque de vision à long terme. Ils comparent la situation à un jeu d’échecs stratégique : chaque mouvement doit être calculé pour éviter un échec et mat global.

Le Pentagone, par exemple, utilise déjà l’IA pour accélérer ses processus militaires, notamment dans ce qu’il appelle la « kill chain » – une expression qui donne le ton sur les enjeux géopolitiques. De son côté, la Chine avance à grands pas, avec des entreprises comme DeepSeek qui inquiètent les observateurs américains. Dans ce bras de fer, Schmidt propose de changer de paradigme : moins de course à la domination, plus de focus sur la défense.

Défense Avant Tout : Une Stratégie Alternative

Plutôt que de viser la première place à tout prix, les auteurs appellent à une stratégie défensive. Cela inclut des mesures concrètes pour limiter les risques posés par une AGI mal contrôlée. Parmi leurs suggestions :

• Développer un arsenal de cyberattaques pour neutraliser les projets d’IA menaçants à l’étranger.
• Restreindre l’accès des adversaires aux puces avancées nécessaires pour entraîner des modèles d’IA puissants.
• Limiter la diffusion de modèles open-source qui pourraient être détournés à des fins malveillantes.

Cette approche marque un tournant pour Schmidt, qui avait jusque-là insisté sur la nécessité de surpasser la Chine à tout prix. Dans un éditorial récent, il pointait du doigt l’émergence de DeepSeek comme un signal d’alarme. Aujourd’hui, il semble prôner la prudence, conscient que les décisions des États-Unis influencent directement les réactions mondiales.

Doomers Vs Ostriches : Le Débat S’Intensifie

Le débat autour de l’AGI divise les experts en deux camps bien distincts. D’un côté, les « doomers » prédisent des catastrophes inévitables et plaident pour un ralentissement drastique du développement de l’IA. De l’autre, les « autruches » (ou ostriches) misent sur une accélération aveugle, espérant que tout se passera bien. Schmidt, Wang et Hendrycks rejettent ces extrêmes et proposent une voie médiane : avancer avec mesure, en privilégiant la sécurité.

Cette position pourrait séduire les entrepreneurs et marketeurs qui suivent de près les tendances technologiques. Car au-delà des enjeux militaires, l’AGI promet de révolutionner des secteurs entiers : marketing prédictif, analyse de données, création de contenu. Mais pour en tirer parti sans sombrer dans le chaos, il faudra un cadre solide – et c’est là que la proposition de Schmidt prend tout son sens.

Quelles Leçons Pour Les Startups Et Le Business ?

Pour les startups et les entreprises tech, ce débat n’est pas qu’une affaire de géopolitique. Il touche au cœur de leurs stratégies. Si les grandes puissances adoptent une posture défensive, cela pourrait limiter l’accès à certaines technologies clés, comme les puces avancées ou les modèles open-source. À l’inverse, une approche mesurée pourrait favoriser un écosystème plus stable, propice à l’innovation sans les risques d’une escalade incontrôlée.

Imaginez une startup spécialisée dans l’IA marketing. Elle pourrait tirer parti d’une régulation intelligente pour se démarquer, en misant sur des solutions sécurisées et éthiques. À l’heure où les consommateurs se méfient de plus en plus des dérives technologiques, cette carte pourrait devenir un atout majeur. Comme le souligne TechCrunch, les décisions prises aujourd’hui façonneront le paysage business de demain.

Vers Un Futur Technologique Plus Sûr ?

Alors que l’administration Trump semble déterminée à pousser l’IA américaine à son maximum, Schmidt et ses co-auteurs rappellent une vérité essentielle : aucun pays n’opère dans le vide. Chaque avancée, chaque restriction, chaque cyberattaque a des répercussions mondiales. Leur proposition – une stratégie défensive couplée à une dissuasion active – pourrait bien être la clé pour éviter une catastrophe tout en continuant à innover.

Pour les professionnels du marketing, de la tech et des startups, l’enjeu est double : anticiper les bouleversements à venir et s’adapter à un monde où l’IA ne sera pas seulement une opportunité, mais aussi un champ de bataille stratégique. Et vous, que pensez-vous de cette vision ? La course à l’AGI doit-elle ralentir, ou faut-il au contraire accélérer pour ne pas être dépassé ?