Le Centième ŒilEN
IA & Emploi · Essai 4 / 5

La course que personne ne peut arrêter

Personne ne peut freiner la course à l'IA. Elle met à la portée de petits groupes des capacités qui demandaient les moyens d'un État, et concentre le pouvoir dans quelques entreprises.

22 novembre 20267 min de lectureRead in English

Sans frein, la course à l'IA met à la portée de petits groupes des capacités autrefois réservées aux États.

En bref
  • Washington veut « gagner la course », Pékin vise plus de 90 % d'adoption des agents d'IA d'ici 2030, et personne ne ralentira seul.
  • À Hong Kong, une fausse visio a suffi pour soutirer 25 millions de dollars, et une IA a mené 80 à 90 % d'une campagne d'espionnage.
  • Le pouvoir, lui, se concentre : trois groupes fournissent les deux tiers du cloud où tournent les IA.
  • Une promesse qu'on ne peut pas vérifier n'engage que ceux qui y croient, et je doute qu'on encadre l'IA avant le premier accident grave.

Tout commence par une visioconférence, à Hong Kong, en 2024.

Une personne du service financier d’une multinationale reçoit un message qui semble venir du directeur financier du groupe, au Royaume-Uni, puis elle est invitée à une visioconférence de groupe pour des opérations confidentielles. On lui demande des virements, et elle les autorise : environ 200 millions de dollars de Hong Kong, soit 25 millions de dollars américains. Selon la police, la réunion avait été préenregistrée à partir de vidéos publiques du directeur financier et de sa voix : à part la victime, personne dans cette réunion n’était réel.1 Si des escrocs ont pu faire cela en 2024, que pourront faire les États qui mènent la course à l’IA ?

Il y a dix ans, je pense qu’une telle mise en scène aurait demandé les moyens d’un service de renseignement. Cette fois, quelques vidéos en ligne ont servi de matière première. Ces vidéos sont des données, et les données se vendent : les données personnelles volées s’achètent et se revendent sur des marchés criminels en ligne.2 Personne ne peut arrêter la course à l’IA, et elle produit deux mouvements. Ce qui demandait hier les moyens d’un État devient accessible à de petits groupes mal intentionnés. À l’inverse, le pouvoir de construire les IA les plus puissantes, et les machines qui les font tourner, se concentre dans quelques entreprises.

Personne ne peut s’arrêter

Je ne crois pas que les États-Unis ou la Chine ralentiront. Washington l’écrit noir sur blanc : son plan pour l’IA, publié en juillet 2025, affirme que le pays doit « gagner la course ».3 Un mois plus tard, Pékin visait pour 2030 plus de 90 % d’adoption des appareils intelligents de nouvelle génération et des agents d’IA, ces logiciels capables d’accomplir des tâches seuls.4 Nous voici de nouveau pris dans le dilemme du prisonnier, mais cette fois entre États : celui qui ralentit seul prend du retard. L’enjeu, c’est l’avance économique et militaire de chacun pour les prochaines décennies.

Chacun surveille l'autre, personne ne touche au frein, et la piste s'arrête quelque part dans la brume.

En coulisse, la course se joue aussi sans armes, par les dépendances. La très grande majorité des puces les plus avancées du monde sont produites à Taïwan, la machine indispensable pour les graver n’a qu’un fabricant, le néerlandais ASML, et plus de 90 % du gallium et des terres rares sont raffinés en Chine.5 Chacun tient une pièce du puzzle dont les autres ont besoin. En 2025, quand les Pays-Bas ont placé sous surveillance Nexperia, un fabricant de puces détenu par un groupe chinois, la Chine a bloqué une partie des exportations de l’entreprise, et les constructeurs automobiles européens ont craint l’arrêt de leurs chaînes. En sept semaines, les deux camps avaient reculé.6 Ces dépendances obligent à négocier quand la tension monte. Elles ne freinent pas la course.

Des moyens d’État à la portée de petits groupes

Le premier de ces moyens, c’est de tout savoir sur quelqu’un. Les États l’ont toujours voulu, et il leur fallait des agents et des années. Des chercheurs ont montré que des modèles d’IA devinent, à partir de messages ordinaires publiés sur un forum, où vit la personne qui les a écrits, combien elle gagne ou quel âge elle a, avec jusqu’à 85 % de bonnes réponses.7 Cette matière première se vend : selon l’autorité américaine de protection des consommateurs, un seul courtier en données a collecté plus de 500 millions d’identifiants de téléphones associés à des positions précises.8

Une IA qui sait tout de vous sait aussi comment vous parler. Dans une expérience publiée en 2025, un modèle d’IA qui disposait de quelques informations personnelles sur son interlocuteur réussissait mieux que des humains à le faire changer d’avis.9 Entre de mauvaises mains, une IA qui vous connaît peut faire beaucoup de dégâts : vous imiter, comme à Hong Kong, ou vous pousser là où vous n’auriez pas voulu aller.

Le deuxième de ces moyens, c’est d’agir en masse avec peu de monde. En septembre 2025, selon Anthropic, un groupe de pirates soutenu par un État a détourné son outil Claude Code. L’IA a exécuté 80 à 90 % du travail d’une campagne d’espionnage contre une trentaine de cibles ; des humains choisissaient les cibles et prenaient les décisions clés.10 Ce groupe avait encore un État derrière lui. Mais quand la machine fait l’essentiel du travail, il faut de moins en moins de monde. Personne n’a montré qu’un individu seul ait atteint la puissance d’un État. Je pense pourtant que le seuil baisse, année après année.

Le troisième, le plus grave, c’est de faire du mal dans le monde physique. Les laboratoires d’IA prennent le risque biologique au sérieux. En 2025, Anthropic puis OpenAI ont activé des protections renforcées sur leurs modèles, par précaution, sans preuve qu’ils pouvaient réellement aider à fabriquer une arme biologique.11 Le rapport international sur la sécurité de l’IA, publié en février 2026, constate que ces capacités progressent, mais que leur mise en pratique dans le monde réel reste, heureusement, difficile.12 Mais pour combien de temps ?

Sur le champ de bataille, le seuil baisse aussi. Le programme du bombardier furtif américain B-2 a coûté, développement compris, un peu plus de deux milliards de dollars par appareil.13 Un drone d’attaque de type Shahed, conçu pour des missions bien plus modestes, coûte environ 35 000 dollars,14 et certains petits drones de combat environ 400 dollars.15 L’IA commence à les guider : selon un chercheur du CSIS, un centre d’études américain, certains drones verrouillent à partir de l’image une cible qu’un humain a approuvée, puis terminent l’attaque seuls, même quand le brouillage coupe la liaison avec leur opérateur.15

Le mouvement va aussi dans l’autre sens. Pendant que certaines capacités descendent vers de petits groupes, le pouvoir se concentre dans quelques entreprises. En 2025, plus de 90 % des modèles d’IA jugés marquants par l’université Stanford venaient d’entreprises, et non d’universités ou d’États.16 Trois groupes, Amazon, Microsoft et Google, fournissaient en 2024 environ les deux tiers des services d’informatique à distance du monde, le « cloud », sur lesquels tournent ces modèles.16 Je pense que leurs règles pèsent aujourd’hui autant que les lois sur ce qu’une IA accepte ou refuse de faire.

Les courses qu’on a su freiner

L’histoire montre pourtant que d’autres courses technologiques entre États ont fini par être freinées. Après la crise des missiles de Cuba, en 1962, Washington et Moscou ont ouvert une ligne de communication directe, puis interdit les essais nucléaires dans l’atmosphère, dans l’espace et sous l’eau. Pas sous terre : un essai souterrain pouvait passer pour un tremblement de terre, et les deux camps n’arrivaient pas à s’entendre sur des inspections sur place. Ce traité est venu après qu’on eut frôlé la guerre nucléaire, et il ne portait que sur ce que chaque rival pouvait surveiller chez l’autre.17

Quand on ne peut rien vérifier, c’est une autre histoire. En 1972, une convention internationale a interdit les armes biologiques, sans aucun mécanisme de contrôle.18 L’Union soviétique l’a signée. Sept ans plus tard, une épidémie de maladie du charbon frappait la ville soviétique de Sverdlovsk : selon une enquête scientifique publiée en 1994, elle venait d’une fuite dans un site militaire de microbiologie.19 Une promesse qu’on ne peut pas vérifier n’engage que ceux qui y croient.

Pourquoi l’IA est plus dure à freiner

L’IA ressemble davantage aux armes biologiques qu’aux essais nucléaires. Il y a bien quelque chose à compter : des puces rares, qui sortent de quelques usines, et d’immenses centres de données. Mais compter les puces ne dit pas ce qu’elles calculent. Le même modèle d’IA peut aider à trouver un médicament ou à préparer une cyberattaque. Et les chercheurs parviennent à faire autant avec moins de puces : leur nombre en dit donc de moins en moins.20 On sait où sont les machines, beaucoup moins à quoi elles servent.

Les freins actuels sont à cette image. Il existe des lois, comme le règlement européen sur l’IA, en vigueur depuis 2024, mais aucune ne vaut pour le monde entier.21 À cette échelle, il n’y a que des promesses. En 2024, seize entreprises d’IA se sont engagées, sur la base du volontariat, à publier leurs règles de sécurité et à définir les risques qu’elles jugeraient intolérables.22 À l’ONU, plus de 160 pays ont voté pour des résolutions sur les armes autonomes, mais aucun texte contraignant n’existe encore.23 Freiner l’IA tout entière me paraît impossible. Restreindre certains usages, peut-être, si les rivaux trouvent un moyen de se vérifier les uns les autres. Je doute qu’ils y arrivent avant le premier accident grave.

Où mène une course que personne ne sait freiner ? Pas forcément au pire : l’histoire a connu des chutes, puis des remontées. Le dernier article de cette série replace le progrès dans le temps long de l’histoire humaine : une vague qui monte, avec ses sommets et ses creux. Où en sommes-nous, et qui le prochain creux toucherait-il, s’il vient ?

Sources

  1. Gouvernement de Hong Kong, réponse au Conseil législatif sur les escroqueries par hypertrucage, 26 juin 2024 (directeur financier imité ; réunion préenregistrée à partir de vidéos publiques et de sa voix ; perte d’environ 200 millions de dollars HK) — https://www.info.gov.hk/gia/general/202406/26/P2024062600192p.htm
  2. Europol, « Steal, deal and repeat: How cybercriminals trade and exploit your data », IOCTA 2025, 11 juin 2025 (les données sont devenues « a key commodity ») — https://www.europol.europa.eu/publication-events/main-reports/steal-deal-and-repeat-how-cybercriminals-trade-and-exploit-your-data
  3. Maison-Blanche, « White House Unveils America’s AI Action Plan », 23 juil. 2025 — https://www.whitehouse.gov/releases/2025/07/white-house-unveils-americas-ai-action-plan/
  4. Conseil des affaires de l’État de la République populaire de Chine, plan « IA+ », 27 août 2025 (objectif 2030 pour les terminaux intelligents de nouvelle génération et les agents d’IA) — https://english.www.gov.cn/policies/latestreleases/202508/27/content_WS68ae7976c6d0868f4e8f51a0.html
  5. Stanford Emerging Technology Review 2026, « Semiconductors », janv. 2026 (TSMC : environ 90 % de la fabrication de puces avancées en 2024) — https://setr.stanford.edu/sites/default/files/2026-01/SETR2026_09-Semi_web-260109.pdf · ASML, rapport annuel 2025 (seul fabricant de systèmes de lithographie EUV ; source de l’entreprise) — https://ourbrand.asml.com/m/6ea363f69344ebd4/original/asml-2025-annual-report-based-on-ifrs.pdf · AIE, « Global Critical Minerals Outlook 2026 », 16 juil. 2026 (Chine : plus de 90 % du raffinage du gallium et des terres rares) — https://www.iea.org/reports/global-critical-minerals-outlook-2026/executive-summary
  6. Gouvernement néerlandais, lettre au Parlement du 19 nov. 2025 — https://web.archive.org/web/20260324044459/https://www.government.nl/binaries/government/documenten/parliamentary-documents/2025/11/19/letter-to-the-parliament-on-the-latest-developments-concerning-nexperia/102176837%2BDevelopments%2Bconcerning%2BNexperia.pdf · ACEA, « Critical chip shortage worsens by the day », oct. 2025 (avertissements, pas d’arrêt constaté) — https://www.acea.auto/press-release/critical-chip-shortage-worsens-by-the-day/
  7. Staab et al., « Beyond Memorization: Violating Privacy via Inference with Large Language Models », ICLR 2024 (profils Reddit ; jusqu’à 85 % de bonnes réponses au premier choix, sur ce jeu de données) — https://openreview.net/pdf?id=kmn0BhQk7p
  8. FTC, action contre Mobilewalla, 3 déc. 2024 (allégations du régulateur ; plus de 500 millions d’identifiants publicitaires, 2018–2020) — https://web.archive.org/web/20261030172845/https://www.ftc.gov/news-events/news/press-releases/2024/12/ftc-takes-action-against-mobilewalla-collecting-selling-sensitive-location-data
  9. Salvi et al., Nature Human Behaviour, 19 mai 2025 (débats contrôlés ; GPT-4 avec informations personnelles : chances nettement plus élevées de faire évoluer l’avis que des humains) — https://doi.org/10.1038/s41562-025-02194-6
  10. Anthropic, « Disrupting the first reported AI-orchestrated cyber espionage campaign », 13 nov. 2025 (estimations de l’entreprise ; des humains choisissaient les cibles) — https://assets.anthropic.com/m/ec212e6566a0d47/original/Disrupting-the-first-reported-AI-orchestrated-cyber-espionage-campaign.pdf
  11. Anthropic, « Activating AI Safety Level 3 protections », 22 mai 2025 (mesure de précaution) — https://www.anthropic.com/news/activating-asl3-protections · OpenAI, fiche système de ChatGPT agent, 17 juil. 2025 (traité comme « High » en biologie par précaution) — https://openai.com/index/chatgpt-agent-system-card/
  12. International AI Safety Report 2026, févr. 2026 — https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026 · RAND, 2024 (pas de différence significative dans le cadre testé) — https://www.rand.org/content/dam/rand/pubs/research_reports/RRA2900/RRA2977-2/RAND_RRA2977-2.pdf
  13. GAO, rapport NSIAD-97-181, 1997 (coût moyen du programme B-2 par appareil, développement compris, estimation de décembre 1996 pour 21 appareils) — https://www.gao.gov/assets/nsiad-97-181.pdf
  14. CSIS, « Calculating the Cost-Effectiveness of Russia’s Drone Strikes », févr. 2025 (estimation, selon la configuration) — https://www.csis.org/analysis/calculating-cost-effectiveness-russias-drone-strikes
  15. ETH Zurich, Center for Security Studies, Ukrainian Analytical Digest n° 11 (certains drones FPV autour de 400 dollars) — https://css.ethz.ch/content/dam/ethz/special-interest/gess/cis/center-for-securities-studies/pdfs/ukrainiananalyticaldigest-011.pdf · CSIS, « The Russia-Ukraine Drone War: Innovation on the Frontlines and Beyond », 28 mai 2025 (évaluation d’un chercheur ; verrouillage visuel assisté par IA après approbation de la cible par un opérateur ; fréquence non chiffrée) — https://www.csis.org/analysis/russia-ukraine-drone-war-innovation-frontlines-and-beyond
  16. Stanford HAI, AI Index Report 2026 (« plus de 90 % » des modèles de pointe marquants issus de l’industrie en 2025, sélection de Stanford) — https://hai.stanford.edu/assets/files/ai_index_report_2026.pdf · International AI Safety Report 2025 (AWS, Microsoft Azure et Google : environ 67 % des services cloud mondiaux en 2024) — https://internationalaisafetyreport.org/publication/international-ai-safety-report-2025
  17. Département d’État américain : accord sur la ligne directe, 20 juin 1963 — https://1997-2001.state.gov/global/arms/treaties/hotline1.html · Office of the Historian, « The Limited Test Ban Treaty, 1963 » (séismes, désaccord sur les inspections) — https://history.state.gov/milestones/1961-1968/limited-ban
  18. UNODA, Convention sur les armes biologiques (pas de régime de vérification) — https://geneva-s3.unoda.org/static-unoda-site/pages/templates/the-biological-weapons-convention/topics/BWS%2Bbrochure.pdf
  19. Meselson et al., « The Sverdlovsk anthrax outbreak of 1979 », Science, 18 nov. 1994 — https://doi.org/10.1126/science.7973702
  20. CNAS, « Artificial Intelligence and Arms Control » (usages civils et militaires) — https://www.cnas.org/publications/reports/artificial-intelligence-and-arms-control · Sastry, Heim et al., « Computing Power and the Governance of Artificial Intelligence », 2024 — https://arxiv.org/abs/2402.08797
  21. Union européenne, règlement (UE) 2024/1689 sur l’intelligence artificielle, en vigueur depuis le 1er août 2024, obligations appliquées par étapes — https://eur-lex.europa.eu/legal-content/EN/ALL/?uri=CELEX:32024R1689
  22. Gouvernement britannique, engagements de Séoul, 21 mai 2024 (16 entreprises ; engagement volontaire) — https://www.gov.uk/government/news/historic-first-as-companies-spanning-north-america-asia-europe-and-middle-east-agree-safety-commitments-on-development-of-ai
  23. Bibliothèque numérique de l’ONU, résolutions sur les systèmes d’armes létaux autonomes : 2024 (166 pour, 3 contre, 15 abstentions) — https://digitallibrary.un.org/record/4068497?ln=en · 2025 (164 pour, 6 contre, 7 abstentions) — https://digitallibrary.un.org/record/4094456?ln=en
Essai suivant · 05 / 05

Où en sommes-nous sur la vague du progrès ?

Le progrès monte par vagues, et nous ne sommes pas tous au même endroit de la vague.

Lire la suite →