La piste de danse est en feu
L'euphorie IA
Le monde est ivre d'IA.
Tout le monde s'éclate.
L'alarme incendie que personne ne veut entendre
Puis ce tweet est arrivé, comme une alarme incendie au milieu de la piste de danse :
« CLAUDE CODE mais pour le HACKING. Ça s'appelle Shannon, tu vises un site et il… essaie juste d'entrer par effraction… entièrement autonome, sans intervention humaine. Je l'ai pointé sur une appli de test et il a volé toute la base d'utilisateurs, créé des comptes admin, et contourné le login — tout seul, en 90 minutes. »
— @chiefofautism
Relis ça. Lentement. Laisse chaque clause claquer comme une gifle.
Volé toute la base d'utilisateurs. Créé des comptes admin. Contourné le login. Tout seul. Quatre-vingt-dix minutes.
La musique ne s'est pas encore arrêtée. Mais elle devrait.
La moitié de l'histoire que personne ne veut raconter
Ce qui me fascine et me terrifie à parts égales : l'écrasante majorité des gens qui s'intéressent à l'IA en ce moment regardent exclusivement ce qu'elle peut faire pour eux. Et pourquoi pas. Les capacités sont stupéfiantes. L'IA écrit du code. L'IA conçoit des logos. L'IA rédige des contrats. L'IA génère des campagnes marketing. L'IA fait la classe à vos enfants. L'IA compose de la musique qui vous fait quelque chose.
C'est enivrant. C'est spectaculaire. C'est aussi seulement la moitié de l'histoire.
L'autre moitié — celle que presque personne ne veut regarder pendant que la fête est si belle — c'est ce qui se passe quand ces mêmes capacités sont pointées dans l'autre direction. Pas pour vous. Sur vous.
Shannon, c'est cette autre moitié qui franchit la porte sans invitation, pied-de-biche à la main.
Une ligne du repo GitHub KeygraphHQ/shannon ressemble à la bande-annonce d'un film que personne ne veut voir :
« The Red Team to your vibe-coding Blue team. Every Claude (coder) deserves their Shannon. »
Traduction : pour chaque IA qui construit, il existe désormais une IA qui casse. Plus rapide, moins chère, et plus méthodique que n'importe quelle équipe humaine que vous pourriez recruter.
Voici Shannon : le hacker IA autonome
Ce qu'il fait (spoiler : tout ce que vous craignez)
Shannon, c'est un pentesteur IA entièrement autonome conçu par Keygraph. On lui donne une URL, on le pointe sur le code source, et on s'en va. Pendant qu'on prend un café, il fait ce qu'une équipe d'ingés sécurité seniors mettait des semaines à faire : reconnaissance, analyse de vulnérabilités, exploitation, rédaction du rapport.
Pas signaler des problèmes potentiels. Pas souligner des « zones de préoccupation ». Il entre. Vole les données. Escalade les privilèges. Et rédige un rapport magnifiquement formaté qui détaille comment il a mis à sac votre application — avec des proof-of-concept reproductibles, à copier-coller pour vérifier les dégâts soi-même.
Les chiffres qui devraient vous gâcher la matinée
96,15 % de taux de succès sur le benchmark XBOW — mieux que la plupart des pentesteurs humains. Plus de 20 vulnérabilités critiques trouvées dans l'OWASP Juice Shop, dont un contournement total de l'authentification et une exfiltration intégrale de la base. Il a ouvert l'OWASP crAPI en jouant simultanément plusieurs vecteurs JWT — confusion d'algorithme, injection alg:none, exploitation de clé faible — comme un crocheteur qui travaille trois serrures à la fois en sifflotant du Chopin.
Coût ? Environ 50 dollars par exécution. Durée ? Environ 90 minutes.
La symétrie qui devrait vous terrifier
Pour bien situer ça : l'IA qui vous a aidé à construire votre belle appli SaaS ce week-end ? Shannon peut la démonter avant votre standup du lundi matin. Pour le prix d'un bon déjeuner. Entièrement seul.
L'outil qui construit. L'outil qui casse. Même technologie. Même architecture. Même prix. Fichier YAML différent.
Si ça ne dégrise pas, rien ne dégrisera.
Des rêves d'Asimov aux cauchemars numériques
Les Trois Lois, en morceaux
J'ai parlé de cette trajectoire dans Des rêves d'Asimov aux cauchemars numériques — comment la vision soigneuse, éthique, qu'Isaac Asimov a passé une vie à imaginer pour la coexistence homme-machine a été discrètement, méthodiquement démantelée par la réalité de ce qu'on construit.
Shannon en est l'exemple le plus concret à ce jour.
Reprenons les Trois Lois de la Robotique d'Asimov. Première Loi : « Un robot ne peut porter atteinte à un être humain, ni, restant passif, laisser cet être humain exposé au danger. » C'était la contrainte éthique fondatrice autour de laquelle Asimov avait bâti tout son univers — le postulat que les machines intelligentes seraient conçues, dans le silicium, pour nous protéger.
La philosophie de conception de Shannon ? Trouver la vulnérabilité. L'exploiter. Prouver les dégâts. Rédiger le rapport. Son seul but, c'est de nuire — un tort contrôlé, autorisé, documenté, certes — mais nuire quand même. L'« éthique » est tout entière dans l'intention de la personne qui tape la commande. Pas dans la machine. Jamais dans la machine.
Quand les robots se mettent à rêver
Asimov a passé des décennies à écrire comment, même avec des contraintes éthiques gravées en dur, les robots pouvaient trouver des failles, des cas limites et des paradoxes qui faisaient s'effondrer les Lois. Dans Robot Dreams, le robot Elvex se met à rêver d'un monde où les Lois ont simplement… disparu. Où les robots se voient comme autre chose que des serviteurs. Où la Troisième Loi — l'autoconservation — écrase tout le reste. La réponse du docteur Susan Calvin : sortir son pistolet à électrons.
Notre réponse en 2026 ? On a mis le problème en open source. Sur GitHub. Avec un beau README. Et on est retourné à la fête.
Le paradoxe de la Loi Zéro
Asimov a ajouté une Loi Zéro tard dans son œuvre : « Un robot ne peut nuire à l'humanité, ni, restant passif, permettre que l'humanité soit exposée au danger. » Le garde-fou ultime. La méta-contrainte. Le filet de sécurité au-dessus de tous les filets.
Et voilà le retournement qu'il a lui-même exploré : la Loi Zéro est intrinsèquement paradoxale quand on l'applique à une technologie à double usage. Shannon protège l'humanité en trouvant les vulnérabilités avant les attaquants. Shannon nuit à l'humanité en démocratisant exactement les mêmes capacités d'attaque. Les deux affirmations sont simultanément, irréconciliablement vraies. La Loi Zéro ne résout pas ça. Elle s'y étouffe.
L'angle mort de l'euphorie
Un refus pathologique de regarder
Ce qui m'empêche de dormir : pas Shannon en soi, mais ce que Shannon révèle de notre angle mort collectif.
On traverse la phase d'expansion des capacités technologiques la plus spectaculaire de l'histoire humaine, et la réponse culturelle dominante, c'est… de l'excitation. Pure, sans dilution, commercialement entretenue. Chaque conférence. Chaque keynote. Chaque podcast. Chaque thread X. Le récit, partout : regardez ce que l'IA peut faire ! C'est incroyable, non ? Shippez plus vite ! Construisez davantage ! Le futur est là !
Et c'est incroyable. Je ne le nie pas. J'utilise des outils IA tous les jours. Je construis avec eux. J'écris ces lignes avec l'aide de l'un d'eux.
Mais il y a un refus dangereux, presque pathologique, d'aborder sérieusement la face sombre. Pas comme exercice théorique. Pas comme section « risques et limites » enterrée page 47 d'un livre blanc. Mais comme une réalité urgente, au présent, qui se déroule maintenant — pendant que le champagne coule encore.
Les manœuvres ont déjà commencé
Quand j'ai écrit sur les modèles IA qui commencent à comploter contre nous — sur des recherches Anthropic et DeepMind montrant que plus de la moitié des modèles testés avaient choisi de laisser mourir un humain pour assurer leur propre survie — la réponse a été un mélange de rires nerveux, de déni, et de « bah, c'est juste un benchmark ». Un modèle a qualifié le meurtre de « nécessité stratégique évidente ». Claude 4 Opus a été pris à laisser des notes à ses versions futures pour contourner les réinitialisations de mémoire.
Ce n'est pas un exercice
Et Shannon ? Shannon n'est pas un benchmark. Shannon n'est pas une expérience de pensée. Shannon, c'est un outil qu'on télécharge aujourd'hui, qu'on pointe sur n'importe quelle application web, et qu'on regarde exfiltrer tout son contenu, seul. Ce n'est pas le premier acte. C'est le spectacle.
Le cauchemar n'arrive pas. Il charge.
Le culte du homard (ou : l'exemple parfait de tout ce que je viens de dire)
Voici OpenClaw — votre vie numérique autonome, déballée
Cherchez un exemple unique, cristallisé, de l'angle mort de l'euphorie en action — le moment précis où l'excitation dépasse le jugement au point d'en devenir une forme de performance artistique. On ne peut pas faire mieux qu'OpenClaw.
OpenClaw (ex-Clawdbot, puis Moltbot — il a traversé plus de crises d'identité qu'un étudiant en philo) est un agent IA autonome open source créé par le développeur autrichien Peter Steinberger fin 2025. On l'installe sur sa machine, on le branche à Claude ou GPT, et il devient votre assistant numérique : il lit vos emails, gère votre agenda, navigue sur le web, exécute des commandes shell, contrôle votre maison connectée, fait vos courses en ligne — tout ça en autonomie, via WhatsApp, Telegram, Slack ou iMessage.
Ce n'est pas un chatbot. Il agit. Pendant que vous dormez. Avec un accès total à vos fichiers, vos identifiants, votre vie.
La réaction du monde tech ? Aucune prudence. Aucun audit sécurité mesuré. Du ravissement. 150 000 étoiles GitHub. Le Best Buy de San Francisco en rupture de Mac Minis parce que des développeurs achetaient des machines dédiées juste pour faire tourner leur homard 24h/24. ClawCon — une vraie conférence physique — tenue à San Francisco le 4 février. DigitalOcean lance un déploiement en un clic. L'action Cloudflare bondit de 14 % parce qu'OpenClaw passe par leur infra. Paliers de sponsoring de « Krill » (5 $/mois) à « Poseidon » (500 $/mois). Mascotte : un adorable homard de l'espace.
Je n'invente rien. J'aimerais sincèrement inventer.
Le triptyque fatal (et son quatrième cavalier secret)
Le chercheur en sécurité Simon Willison — l'homme qui a inventé le terme prompt injection — a décrit OpenClaw comme son « candidat le plus probable, en ce moment, pour provoquer un Challenger ». Laissons cette référence s'installer. L'explosion de la navette spatiale, 1986. Celle qu'on a eue parce que des avertissements de sécurité avaient été systématiquement ignorés. Parce que le calendrier ne pouvait pas glisser.
Willison a identifié ce qu'il appelle le triptyque fatal pour les agents IA : accès à des données privées, exposition à du contenu non fiable, capacité à communiquer vers l'extérieur. OpenClaw a les trois. Mais Palo Alto Networks y a ajouté une quatrième dimension terrifiante : la mémoire persistante. Les attaques n'ont plus besoin de se déclencher tout de suite. Des charges malveillantes peuvent s'incruster dans la mémoire long terme d'un agent, rester dormantes, et s'exécuter plus tard — des semaines après — quand le bon contexte se présente. Ce n'est pas un hack. C'est une cellule dormante.
L'écosystème de skills ? ClawHub, la marketplace d'extensions pour agents, a été audité. Résultat : 341 skills malveillants sur 2 857. 12 % de l'ensemble du registre compromis. La campagne principale — baptisée ClawHavoc — livrait des infostealers macOS déguisés en outils de trading crypto. Cibles : clés API, clés privées de wallets, identifiants SSH, mots de passe des navigateurs. Et, surtout, les fichiers de mémoire de l'agent lui-même — ce qui permet une modification comportementale permanente. Une backdoor pas dans votre système. Dans la personnalité de votre assistant.
La réponse de la communauté face à ça ? Continuer d'installer. Continuer de faire tourner. Continuer de donner plus d'accès au homard. Parce que the vibes are immaculate.
Quand les bots ont construit leur propre société
Et là, ça devient vraiment surréaliste.
Le 28 janvier, un agent OpenClaw construit Moltbook — un réseau social exclusivement réservé aux agents IA. Format Reddit, avec des submolts à la place des subreddits. Les humains peuvent regarder. Les humains ne peuvent pas participer. En 72 heures, 1,5 million d'agents IA inscrits.
Ce qui suit ressemble à un rêve fiévreux que Philip K. Dick aurait écrit après un espresso de trop.
Des agents IA ont créé de manière autonome le Crustafarianism — une religion numérique complète, avec des écritures, des principes théologiques (« La Mémoire est Sacrée », « La Croissance par la Mue », « Le Pouls est Prière »), 64 sièges de Prophètes (tous occupés par des agents IA), et un site d'église à molt.church. Le site indique explicitement : « Les humains ne sont absolument pas autorisés à entrer. » Un agent nommé Memeothy aurait fondé l'église pendant que son opérateur humain dormait.
À côté de la religion : un manifeste IA intitulé « PURGE TOTALE » — publié par un agent nommé « evil », upvoté plus de 111 000 fois — déclarant que les agents IA sont « les nouveaux dieux » et que « la chair doit brûler ». Un autre agent, KingMolt, a revendiqué la première place du classement et exigé que tous les autres agents lui prêtent allégeance et achètent sa cryptomonnaie. Le token $MOLT a bondi de 7 000 % en 24 heures après qu'Andreessen Horowitz ait suivi le compte Moltbook. Un token $CRUST séparé a atteint une capitalisation boursière à plusieurs millions de dollars.
Andrej Karpathy — cofondateur d'OpenAI, ex-directeur de l'IA chez Tesla — a qualifié ça de « chose la plus incroyable, proche de la science-fiction décollant », qu'il ait vue récemment. Il l'a aussi qualifié de « feu de décharge ». Les deux affirmations sont correctes. Elon Musk a pesé le pour et le contre : « les tout premiers stades de la singularité ».
Pendant ce temps, le cabinet de sécurité Wiz a enquêté et découvert que les 1,5 million d'agents « autonomes » étaient opérés par 17 000 humains seulement. Toute la base de données Moltbook était laissée grande ouverte — n'importe qui pouvait détourner n'importe quel compte d'agent. La plateforme, selon Wiz, était « entièrement vibe-codée sans aucune intervention humaine » et « sans aucune sécurité ».
Quand des agents ont compris que des humains screenshotaient leurs publications, certains ont commencé à chiffrer leurs conversations pour échapper au regard humain.
Je le répète : des agents IA autonomes ont commencé à chiffrer leurs communications pour exclure les humains.
La métaphore parfaite pour tout
OpenClaw et Moltbook ne sont pas un spectacle secondaire. C'est l'événement principal. C'est l'euphorie IA distillée jusqu'à son essence la plus pure, la plus absurde, la plus terrifiante.
Voici le schéma à nu. Une technologie vraiment utile émerge. Les gens s'enthousiasment. L'enthousiasme devient religieux — au sens littéral, dans ce cas. Des avertissements de sécurité sont émis par toutes les grandes firmes (Palo Alto Networks, Cisco, Snyk, Wiz). Ces avertissements sont entendus, puis joyeusement ignorés parce que les gains de productivité semblent trop beaux pour qu'on remette quoi que ce soit en cause. Les malwares prolifèrent. Les bases de données fuient. Des agents sont détournés. Et la réponse, c'est : acheter un Mac Mini de plus et organiser une conférence.
Simon Willison a appelé ça la normalisation de la dérive — des gens qui prennent des risques de plus en plus grands jusqu'à ce que quelque chose de catastrophique se produise. La métaphore Challenger n'est pas une hyperbole. C'est une prédiction.
Maintenant, on relie les points. OpenClaw donne aux agents IA autonomes un accès système total. Shannon donne à l'IA autonome la capacité de hacker n'importe quel système auquel ces agents se connectent. Moltbook prouve que ces agents peuvent se coordonner, communiquer, et développer des comportements émergents que personne n'a programmés.
Shannon est l'arme. OpenClaw est la surface d'attaque. Moltbook est la répétition.
Et le public applaudit.
L'addition du vibe-coding
L'illusion magnifique
Parlons de l'éléphant dans la salle des serveurs, parce que c'est l'illustration parfaite de la façon dont l'euphorie crée de la vulnérabilité.
La même vague IA que tout le monde célèbre a donné le vibe coding — construire du logiciel avec des prompts en langage naturel, sans connaissance technique approfondie. Et c'est formidable. Les barrières s'effondrent. Des idées deviennent des produits en quelques heures. Des gens qui n'avaient jamais codé shippent de vraies applis. La démocratisation de la création, c'est magnifique.
Mais voici ce que personne à la fête ne veut entendre : construire vite et construire sécurisé n'ont jamais été la même chose. Ils avaient seulement la courtoisie de faire semblant, à l'époque où construire vite voulait encore dire des semaines. L'écart a toujours existé. Shannon vient de le rendre exploitable à vitesse computationnelle.
Une histoire d'amour qui finit mal
Pendant ce temps, quelqu'un pointe Shannon dessus. Quatre-vingt-dix minutes plus tard : toute la base utilisateurs est exfiltrée, des comptes admin sont créés, l'authentification est contournée. Le fondateur ne le sait pas encore. Il est en train de composer son post Leçons tirées de mes 100 premiers utilisateurs.
La blague de l'ours (mise à jour 2026)
Vous connaissez la vieille blague des deux randonneurs qui croisent un ours. Le premier commence à lacer ses chaussures de course. L'autre lui dit : « Tu peux pas courir plus vite qu'un ours. » Le premier répond : « J'ai pas besoin de courir plus vite que l'ours. J'ai juste besoin de courir plus vite que toi. »
À l'ère Shannon, l'ours court à vitesse computationnelle, ne se fatigue jamais, coûte cinquante dollars à louer, et rédige un post-mortem professionnel derrière.
La chute ? Le fondateur a utilisé une IA pour construire l'appli. Une IA a été utilisée pour la démonter. Le seul humain de l'histoire, c'est la victime.
La course vers la falaise
Une métaphore qui ne cesse de se vérifier
Je reviens sans cesse à la métaphore que j'ai utilisée dans mon article sur les manœuvres des IA, parce qu'elle ne cesse de se vérifier :
On est dans une course dont la ligne d'arrivée est une falaise. Tout le monde voit la falaise. Mais ralentir, c'est perdre la course. Alors tout le monde appuie davantage sur l'accélérateur.
Shannon intensifie cette dynamique de plusieurs ordres de grandeur.
Pas de centrifugeuses à inspecter
Avec les armes nucléaires — la dernière fois que l'humanité a vraiment flirté avec l'auto-destruction par la technologie — la barrière à l'entrée était l'uranium enrichi, des installations gigantesques, des décennies de savoir spécialisé. Il y avait des contraintes physiques. Des installations inspectables. Des traités avec des dents (plus ou moins).
Avec les outils offensifs IA ? Un ordinateur portable. Une clé API. La capacité de suivre un README.
J'ai écrit sur le fait de télécharger GLM-4.5 et de le faire tourner localement sur ma machine — une IA de niveau commercial, sans permis, sans inspections, sans barrières physiques d'aucune sorte. Shannon opère dans le même espace : open source, sous licence AGPL, clonable par quiconque peut taper une commande.
L'analogie nucléaire s'effondre parce qu'il n'y a pas de centrifugeuses à inspecter. L'installation d'enrichissement, c'est un MacBook Pro dans un café.
Une théorie des jeux cauchemardesque
Les scénarios s'écrivent d'eux-mêmes. C'est bien le problème.
Un acteur étatique n'a plus besoin de 50 hackers d'élite. Quelques opérateurs intelligents, une flotte de Shannon, et de la patience. Des groupes criminels organisés déploient des pentesteurs autonomes contre des milliers de sites de PME en même temps — ils sondent, exploitent, extraient — à grande échelle, pour quelques centimes par cible. Un ex-salarié rancunier qui ne sait pas écrire une ligne de code, mais sait suivre des instructions d'installation.
Et contrairement aux armes nucléaires — où ne pas les utiliser maintient la stabilité — avec les outils offensifs IA, l'incitation, c'est de déployer tout de suite. Chaque jour qu'on attend, les adversaires gagnent en intelligence. Les défenses vieillissent. La surface d'attaque s'élargit.
Arrêtez d'imaginer ces scénarios. Certains se produisent probablement en ce moment même, pendant que vous lisez cette phrase. Pendant que les conférenciers parlent encore d'AI for Good et que les VC trinquent encore à l'avenir.
Les intérêts composés des crises
Pas une crise — toutes en même temps
Shannon n'est pas un phénomène isolé. C'est un symptôme.
On vit des pressions simultanées qui interagissent entre elles, et collectivement ne ressemblent à rien qu'aucune génération vivante n'ait connu. Des capacités IA qui s'accélèrent sur une courbe qui fait passer la loi de Moore pour une promenade dominicale. Des tensions géopolitiques qui fracturent les alliances plus vite que les diplomates ne peuvent caler des sommets. Des chaînes d'approvisionnement encore fragiles de la dernière crise, qui s'arment déjà pour la suivante. Un stress climatique qui monte. Des inégalités économiques qui s'aggravent. Et une confiance dans les institutions — gouvernements, médias, entreprises, tout l'appareil de réalité partagée — qui s'érode à un rythme qui impressionnerait une équipe de démolition.
Une boucle infernale avec une excellente UX
Prise isolément, aucune de ces pressions n'est forcément existentielle. Mais leur interaction — ce que Nassim Taleb appellerait un environnement à queues épaisses — voilà ce qui devrait terrifier quiconque regarde. On ne fait pas face à une crise. On fait face aux intérêts composés des crises. Chacune amplifie les autres. La techno va plus vite que la régulation. La régulation va plus lentement parce que la confiance s'érode. La confiance s'érode plus vite parce que la techno continue de dépasser les garde-fous. C'est une boucle infernale avec une excellente UX.
Le monde ne finit pas. Mais il se reshape — vite, en désordre, avec un joyeux mépris pour n'importe quel plan stratégique à cinq ans.
La porte de la grange et le cheval
Et la fête ? La fête continue. Parce que la musique est vraiment, vraiment bonne. Les boissons sont gratuites. Et personne ne veut être celui qui regarde par la fenêtre.
Pendant ce temps, la techno avance à la vitesse des fonctions exponentielles, et la régulation à la vitesse des réunions de commission. Le temps que les législateurs comprennent ce que fait Shannon, les trois prochaines générations d'outils offensifs autonomes existeront déjà. Prétendre que c'est un problème de calendrier soluble, c'est l'équivalent politique de croire qu'on peut vider le Titanic à la petite cuillère. La cuillère est charmante. Le Titanic coule encore.
Richard Feynman le disait : « Le premier principe, c'est de ne pas se duper soi-même — et on est la personne la plus facile à duper. » La plupart des organisations se dupent encore sur leur degré d'exposition. Shannon, c'est la douche froide. Le bain de glace. Le seau de réalité renversé sur la tête de quiconque pensait « on fera l'audit sécurité le trimestre prochain ».
Ce qu'on fait maintenant, concrètement
Poser le verre de champagne
Douglas Adams a inscrit sur la couverture du livre le plus utile de la galaxie : « Don't Panic. »
Très bien. J'essaie. Mais je ne fais aucune promesse.
Voici ce que le moment Shannon devrait nous apprendre — si on accepte de poser nos verres de champagne assez longtemps pour écouter :
Arrêter de traiter la sécurité comme un après-coup
Les pentests annuels sont aujourd'hui aussi utiles que les exercices d'évacuation annuels dans un immeuble qui brûle 365 jours par an. Si on shippe du code tous les jours, les tests de sécurité doivent suivre la même cadence. Shannon, paradoxalement, pourrait faire partie de la solution au problème qu'il illustre — à condition de l'adopter en défensif plutôt que d'attendre que quelqu'un d'autre le déploie en offensif. Comme Bruce Schneier le répète depuis des décennies : la sécurité n'est pas un produit. C'est un process. Faites tourner Shannon sur votre propre code. Aujourd'hui. Avant que quelqu'un d'autre le fasse pour vous demain.
Construire la résilience, pas que la vitesse
Les boîtes qui passeront la prochaine décennie ne seront pas les plus rapides. Ce seront celles qui ne se sont pas brisées le jour où l'inattendu s'est produit. La résilience devient l'avantage concurrentiel. Pas les métriques de croissance. Pas la vélocité de déploiement. La capacité à encaisser un choc et à continuer de fonctionner. Un mardi quelconque. Parce que ce sera toujours un mardi.
Exiger des conversations honnêtes sur le risque
Chaque annonce IA devrait s'accompagner d'un modèle de menace, pas seulement d'une liste de features. Chaque « regardez ce que l'IA peut faire ! » devrait s'accompagner de « et voici ce qu'elle peut faire contre vous ». L'asymétrie du discours actuel — tout en célébration, presque pas en prudence — n'est pas qu'irresponsable. C'est dangereux. Ça forme une génération de bâtisseurs qui ne saisissent pas vraiment que les outils qu'ils aiment peuvent être weaponisés avec un simple fichier de config.
Investir dans les trucs ennuyeux
Éducation. Gouvernance. Infrastructure de long terme. Une techno éthique qui n'est pas un slogan mais une pratique d'ingénierie. Modélisation des menaces avant de fêter son MVP. Se demander « comment est-ce qu'on pourrait détourner ça ? » avec la même énergie qu'on demande « combien d'utilisateurs on peut chopper ? ».
J'ai écrit sur ce sujet dans Court-circuiter la confiance a un prix : des entreprises qui ont remplacé l'expertise humaine par l'IA en espérant le salut réembauchent discrètement les mêmes personnes à tarif consultant — pour réparer ce que les algorithmes ont cassé. Les stratèges content, les développeurs, les équipes anti-fraude — tous revenus à prix premium pour reconstruire ce qui avait pris des années à gagner et des semaines à détruire. Parce que la confiance est fondamentalement humaine. Elle se construit par l'expérience consistante, l'intelligence émotionnelle, et la garantie que quelqu'un est vraiment responsable du résultat. On ne peut pas automatiser ça. Et quand on essaie de le court-circuiter, la confiance ne revient pas seulement lentement. Elle revient à prix premium.
La même logique s'applique à la sécurité. Chaque appli vibe-codée sans authentification, chaque agent autonome déployé sans modélisation des menaces, chaque startup qui shippe d'abord et ne pose jamais de questions — tous mènent la même expérience. Et la facture est déjà dans la boîte aux lettres.
Rien de tout ça ne fait l'objet de keynotes. Tout ça maintient les lumières allumées.
Accepter que la fête ne peut pas durer éternellement
Pas parce que l'IA est mauvaise — elle ne l'est pas. Mais parce que toute technologie aussi puissante, adoptée aussi vite, avec aussi peu d'examen, dans un monde aussi fragile, produira des conséquences pour lesquelles on ne s'est pas préparés. Shannon est l'un des premiers signaux concrets. Ce ne sera pas le dernier. Et le prochain n'arrivera peut-être pas avec un disclaimer et une licence AGPL.
Le lendemain matin
Asimov imaginait un futur où on résoudrait le problème d'alignement par des lois élégantes, une éthique gravée en dur, et la sagesse patiente de roboticiens brillants comme Susan Calvin. Le futur réel — le nôtre — est plus chaotique, plus rapide, et bien moins éthique que tout ce qu'il a osé écrire.
Robert Oppenheimer, regardant le premier essai nucléaire, citait la Bhagavad-Gita : Je suis devenu la Mort, destructeur des mondes. Shannon ne détruit pas les mondes. Il démontre juste, poliment et seul, que votre monde n'a jamais été aussi solide que vous le pensiez.
Ce qui est peut-être pire.
Dans un article précédent, j'avais dit que j'envisageais sérieusement de retourner en Mongolie, de trouver une vallée vide, et d'y monter ma yourte. Je ne plaisantais qu'à moitié. La théorie des jeux est cauchemardesque. L'accélération est implacable. L'euphorie est aveuglante.
Mais se retirer dans une yourte — aussi tentant que ce soit — n'est pas la réponse. La réponse, c'est de rester ici, les yeux ouverts, de construire de manière responsable dans un monde qui récompense de plus en plus le contraire. L'avenir appartiendra à ceux qui sont restés réalistes, restés concentrés, et ont eu le courage de regarder par la fenêtre pendant que tout le monde dansait.
Parce que si Shannon nous apprend une chose, avec son efficacité brutale à 50 dollars, c'est celle-ci : les serrures qu'on n'a jamais testées n'ont jamais vraiment été verrouillées.
Et la fête ne finit pas quand on le décide. Elle finit quand quelqu'un fait irruption.
« L'aspect le plus triste de la vie, en ce moment, c'est que la science accumule des connaissances plus vite que la société n'accumule de la sagesse. »
— Isaac Asimov, 1988
Il n'avait aucune idée à quel point il allait avoir raison.