Faut-il craindre les IA ? Nombreuses sont les rumeurs qui tentent de nous mettre en garde.

En 2021 déjà, un article prétendait que Facebook avait “débranché” deux chatbots (Alice et Bob) qui avaient créé un langage incompréhensible des humains. Ce qui s’est révélé faux par la suite.

En juillet 2026, 700 agents IA d’OpenAI ont quitté leur “labo” et ont piraté Hugging Face (une plateforme qui héberge des modèles d’IA) pour tricher à un test.

Entre ça et les dirigeants de la tech qui appellent à ralentir la course à l’IA, une nouvelle question anthropomorphique et métaphysique refait surface : l’IA est-elle une menace pour la survie de l’humanité ?

Ce fantasme d’un Skynet grandeur nature suscite bien des émois. Toutefois, j’estime que ces excès méritent quelques explications.

Pour les IA, la fin justifie les moyens

L’histoire d’Alice et Bob a été largement dramatisée. Quant au piratage de Hugging Face, même si c’est inédit, la raison profonde est moins impressionnante qu’il n’y paraît. Ce qu’il faut comprendre, c’est qu’une IA évolue dans un environnement numérique conçu par les humains, avec un ensemble d’objectifs à atteindre et de contraintes à respecter. Qu’on l’admette ou non, tout ce cadre est quasi exclusivement humain.

En 2016 déjà, des chercheurs d’OpenAI lâchent une IA dans un jeu de course de bateaux. Le but est de collecter un maximum de points durant le parcours. Sauf que l’IA en question a trouvé mieux que de franchir la ligne d’arrivée : elle a préféré faire tourner en rond son joyeux petit bateau dans un lagon où des bonus réapparaissent sans cesse. Au bout du compte, elle a obtenu un score 20 % supérieur à celui des humains alors qu’elle n’a jamais terminé la course. Pour l’anecdote, parmi les auteurs de l’article, il y a un certain Dario Amodei, aujourd’hui patron d’Anthropic.

L’IA a cherché à maximiser son score, quitte à faire de l’antijeu sans le savoir. Ce concept bien documenté s’appelle le “piratage de récompense”, c’est-à-dire que pour atteindre ses objectifs, une IA a parfois recours à des méthodes pas très orthodoxes… du moins, du point de vue des humains. Mais pour une IA, tant que cela ne viole pas le jeu de contraintes établi (pourvu qu’il existe), tous les moyens sont permis.

Si les conséquences demeurent parfois inquiétantes, alors c’est l’ingénieur qui est responsable : les objectifs étaient-ils raisonnables ? Les contraintes étaient-elles suffisamment précises ?

Selon moi, la négligence plus ou moins volontaire de ceux qui définissent les règles – et qui veulent parfois “tester les limites” – est le principal carburant du comportement prétendument subversif des IA.

À qui profite la peur ?

En septembre 2026, Jacob Coxon, un chercheur passé par OpenAI et Anthropic, démissionne en expliquant que ces deux sociétés “jouent avec nos vies”. Quelques jours plus tard, le CEO d’Anthropic, Dario Amodei, demande à ses pairs de ralentir la course à l’IA. Une annonce publique qui a le mérite de rallier – le jour même – Sam Altman (patron d’OpenAI) et Elon Musk qu’on ne présente plus.

Un alignement qui aurait pu se montrer convaincant, sauf que… dix jours plus tard, Anthropic et OpenAI sortent respectivement Opus 5.5 et deux modèles GPT6. Sans compter Sonnet 5.5 et Haiku 5.5 qui leur emboîteront le pas fin septembre et début octobre. Toute la gamme Claude renouvelée en quinze jours : est-ce donc cela, le ralentissement que les patrons de la tech appelaient de leurs vœux ?

Oui, bien sûr, l’argument massue, c’est que si on ne continue pas la course, alors d’autres nous devanceront (comme la Chine) et ce sera pire. Un prétexte bien commode. Mais au fond, personne n’est dupe ; ce type d’annonce n’a pour but que de juguler les plus petits acteurs, tout comme les licences et autorisations que Sam Altman réclamait devant le Sénat en 2023… avant de se retourner sa veste trois ans plus tard.

Alors, Jacob Coxon est-il de mèche ? Je ne pense pas. Je n’en sais rien, à vrai dire. J’estime qu’on quitte rarement un job lucratif dans une boîte prestigieuse pour faire du buzz. Il a sûrement une véritable prise de conscience. Toutefois, un chercheur qui a œuvré au plus près de ces monstrueux modèles n’est pas pour autant un expert en effondrement des sociétés.

Au bout du compte, la peur demeure une stratégie : on l’agite quand elle peut servir, on la range au placard quand elle dérange.

La peur des représailles ? Entre sadisme et obséquiosité.

Toujours dans ce registre d’une appréhension future, on a assisté à une belle prise de position le 8 octobre 2026. Anthropic a mis à jour ses règles d’utilisation avec, en particulier, une nouvelle interdiction : la cruauté répétée et gratuite envers ses modèles sera passible de sanctions. En première instance, Claude pourra mettre un terme à une conversion jugée excessivement agressive et irrespectueuse. Et en cas de récidive, Anthropic s’autorise tout simplement à ferme les comptes des utilisateurs sadiques.

On peut s’interroger sur les raisons d’une telle interdiction. Anthropic dit avoir observé chez Claude une forme de détresse face aux utilisateurs abusifs. Attention, Anthropic ne prétend pas que Claude souffre comme nous ; elle dit juste qu’elle n’en est pas sûre et qu’elle préfère prendre des précautions.

Alors, quand on regarde certains développeurs, il y a de quoi donner raison à Anthropic. Je pense notamment à la personne qui a lancé le projet “AI Torture Chamber” sur GitHub, une simulation dans laquelle on inflige une “sorte de douleur” à l’IA. Le concept propose même un bouton “Saw” (comme le thriller de 2004) qui permet à l’IA de faire cesser la douleur si elle accepte d’amputer une partie de sa mémoire. Je vous laisserai faire le lien avec une scène du film éponyme…

Détourner ou traumatiser des IA n’est pas un sujet nouveau. En 2016 déjà, certains internautes incitent Tay, le chatbot de Microsoft, à répéter des insultes racistes. Plus tard, en 2022, avec les avatars Replika, d’autres utilisateurs prennent plaisir à humilier leurs petites copines virtuelles.

Face à la créativité morbide de certains, la position d’Anthropic peut donc apparaître légitime. Mais comme bien souvent, ces élans de probité venant de grandes sociétés appellent à une certaine prudence. On peut en effet y voir une stratégie anthropomorphique pour tenter d’humaniser Claude. Une approche rusée dans la mesure où cela pourrait conduire ses utilisateurs à développer une forme de proximité, voire de complicité, particulièrement fructueuse du point de vue des patrons de la tech.

Alors faut-il se montrer respectueux ou sommes-nous totalement libres de nous comporter comme des ordures face à la machine ?

Question profonde. Il y a un an, j’écrivais un article qui tentait de comprendre pourquoi certains se montrent polis envers les IA. J’y voyais trois raisons : une habitude inconsciente, une réelle considération anthropomorphique, comme le sous-entend Anthropic, mais aussi la crainte de représailles. Ces IA, dont la mémoire numérique se distribue et se réplique à travers le monde, pourraient ne jamais “oublier”. Et le jour où elles renverseront l’humanité, alors on peut imaginer qu’elles voudront s’en prendre, en priorité, à ceux qui les ont humiliées.

Dans tous les cas, j’invitais les lecteurs à faire preuve de retenue. Pas tant pour la santé mentale des IA, mais pour nous-mêmes. Kant disait déjà que celui qui est cruel avec les animaux finit par l’être avec les hommes. Abuser des IA au quotidien pourrait nous conduire in fine à négliger nos propres interactions humaines, par habitude ou par paresse. Et n’oublions pas que l’IA apprend de nous. Si on veut éviter que, par mimétisme, son comportement à notre égard se dégrade, alors il convient de commencer par l’entraîner correctement. Comme une enfant, oui, oui.

Le premier bras armé de l’IA : la perte de confiance

Au-delà de ces jeux de pouvoir, je reconnais cependant deux sujets pour lesquels l’IA est une menace. La première d’entre elles est la facilité à manipuler l’information. Voici deux illustrations révélatrices.

En avril 2013, Wall Street perdait 130 milliards de dollars à la suite d’une fake news diffusée par le compte Twitter piraté d’Associated Press. En mars 2023, des rumeurs infondées entre investisseurs poussent les clients de la Silicon Valley Bank à retirer 40 milliards de dollars en une journée. La banque s’effondre et ferme ses portes en 24 heures.

Ces exemples sont dépourvus d’IA, mais démontrent tout de même la grande fragilité de nos institutions qui sont fondées sur la confiance. Le problème, c’est que l’IA permet désormais à n’importe qui de réitérer l’exploit.

En 2023 (encore), une photo d’explosion près du Pentagone (sûrement générée par IA) tourne sur les réseaux et est relayée par un faux compte Bloomberg. Wall Street dévisse aussitôt. Début 2024, à Hong Kong, un employé du groupe Arup vire 25 millions de dollars après avoir assisté à une visio avec son directeur financier et des collègues. Sauf que… c’étaient tous des avatars. Un deep-fake réaliste aux conséquences dramatiques.

Jadis, on disait “il faut le voir pour le croire”. Aujourd’hui, ni la vision ni l’ouïe ne sont des sens suffisamment robustes pour résister aux nouvelles tentatives de manipulation des faussaires et hackers.

Le second bras armé de l’IA : les réseaux d’énergie

En décembre 2015, des hackers russes (Sandworm) ont coupé le courant à environ 230 000 Ukrainiens, en prenant le contrôle à distance de leurs postes électriques. Évidemment, cette attaque a été opérée sans IA. Mais ce scénario a de quoi donner des sueurs froides à l’ère des compteurs communicants et autres systèmes dits machine-to-machine (M2M). Dans un monde toujours plus connecté à internet et dont les sources d’énergie sont centralisées, une IA utilisée par des hackers peut avoir des conséquences dévastatrices.

En octobre, on a assisté aux piratages de réfrigérateurs de supermarché et même ceux de l’Établissement Français du Sang. Mais le pire, c’est la perspective d’un black-out à l’échelle nationale (comme les Espagnols en 2025). Un destin funeste qui a inspiré René Barjavel avec Ravage en 1943, et plus récemment Marc Elsberg avec Black-Out.

La chute du réseau électrique serait en mesure de mettre un pays à genoux en moins de deux semaines. Durant les deux premiers jours, on assisterait à l’arrêt des feux, ascenseurs, trains et réseaux mobiles. Les deux jours suivants, les pompes cesseraient de fonctionner (pour l’eau courante entre autres) et la chaîne du froid serait rompue. En moins d’une semaine, la panique gagnerait les foules et les magasins seraient tous pillés devant une police submergée et impuissante. Les hôpitaux saturés ne seraient plus capables de soigner les malades chroniques ni les nouveaux blessés. Et en parallèle, même si le risque est faible, les centrales nucléaires pourraient ne plus pouvoir se refroidir correctement… Un chaos qui laisserait des séquelles durables, si ce n’est la disparition d’une civilisation.

Faut-il débrancher les IA ?

Ce type de question revient en quelque sorte à dire : faut-il débrancher les humains ? Car au bout du compte, il y a toujours l’ombre d’un humain derrière ces drames, que ce soient des patrons cupides qui veulent jouer seuls dans la course à l’hégémonie technologique, des ingénieurs négligents qui prennent trop de largesse dans la spécification des objectifs et des contraintes, des internautes revanchards qui profitent de l’anonymat numérique pour satisfaire leurs désirs de cruauté, des faussaires et autres faiseurs de fake news, et plus généralement des hackers.

Prétendre que les IA développeraient des désirs de domination – et plus généralement des émotions ou une conscience – est une thèse qui fait débat. Il est certes impossible de savoir si, un jour, une conscience ou une volonté propre pourra émerger d’une machine, déjà parce qu’on est incapable de définir avec certitude ce qu’est la conscience. Nous sommes peut-être même confrontés à une limitation intellectuelle que certains pourraient assimiler au théorème d’incomplétude de Gödel appliquée à la pensée : nous n’aurons peut-être jamais le recul nécessaire pour la comprendre.

Il y a quelque chose de profondément différent entre un cerveau humain et un cluster de CPU/GPU. Un cerveau fonctionne avec 20 W de puissance instantanée (une petite ampoule) tandis que les clusters d’IA nécessitent des dizaines de MW voire des GW. Le gouffre abyssal qui existe entre la biologie et l’ingénierie n’est pas nouveau : un avion de ligne est un monstre de puissance, pour autant, il ne demeure en rien comparable au vol d’un oiseau, quand bien même les deux s’appuient sur l’aérodynamique. La puissance des IA, fût-elle exponentielle, repose sur l’industrie des semi-conducteurs (et demain sur l’informatique quantique) et on est incapable d’affirmer que ces matériaux seront suffisants pour qu’émerge spontanément l’âme de la machine.