Les investisseurs n'ont d'yeux que pour elle ; ses architectes toisent les chefs d'État ; son usage se propage comme le feu dans la plaine : l'intelligence artificielle, dit-on, va transformer l'humanité. Mais l'humanité le veut-elle ? Face au Moloch numérique, qui exige le sacrifice de l'emploi, du climat et de la vie privée, les résistances se multiplient. Sauront-elles s'organiser alors que les grands partis, obnubilés par les machines, regardent ailleurs ?

« Il y a une bataille, dehors, qui bat son plein. Elle ébranlera bientôt vos fenêtres et secouera vos murs. » L'air de cette chanson de Bob Dylan sur les temps qui changent a-t-il effleuré l'esprit de M. Eric Schmidt le 15 mai dernier ? Ce vendredi-là, l'ancien président-directeur général de Google et ex-conseiller du Pentagone avait revêtu la coiffe à pompon, la toge à revers jaune et le sourire satisfait pour discourir devant un parterre d'étudiants de l'université de Tucson, en Arizona, à l'occasion de la remise des diplômes. Était-ce la cinquantième ou la centième fois qu'il débitait machinalement son topo sur l'intelligence-artificielle-qui-va-tout-bouleverser ? Soudain, un concert de huées et de cris de rage l'interrompt, et le tohu-bohu redouble sitôt qu'il articule ses lettres fétiches, « I » et « A ». Son sourire se fige en rictus. « Je sais ce que beaucoup d'entre vous ressentent. (…) Je comprends cette peur », lance M. Schmidt — dont la fortune dépasse 60 milliards de dollars — à des étudiants lestés d'une dette moyenne de 35 000 dollars, et dont l'IA menace d'annihiler les futurs emplois.

L'incident n'est pas isolé. Une houle contestataire enfle aux États-Unis contre le culte de l'automatisation, les ravages du tout-numérique, la prolifération des centres de données, l'arrogance et le pouvoir des élites de la tech, la corruption des élus qui se prosternent à leurs pieds. Jet de cocktail Molotov sur le domicile du fondateur d'OpenAI en avril, tirs d'armes à feu contre celui d'un conseiller municipal d'Indianapolis favorable à l'installation d'un data center, manifestions locales : les indices d'un grand ras-le-bol s'empilent. Au moment où l'avant-garde du secteur — OpenAI, Anthropic — annonce des entrées en Bourse, le Wall Street Journal frissonne : « La seule chose qui croît plus vite que ce secteur de l'IA, c'est peut-être le sentiment négatif des Américains à son égard (1). » À en croire les enquêtes d'opinion, c'est le cas d'une majorité d'entre eux ; plus des deux tiers jugent « trop rapide » le développement de cette nouvelle technologie, y compris les 18-29 ans (64 %) (2).

Comme la plupart des changements technologiques majeurs, le déferlement de l'IA sur les sociétés n'a fait l'objet d'aucune délibération collective ni même d'une discussion publique.

Le schéma n'a pas fondamentalement varié depuis la fin du XIX^e siècle : les pouvoirs publics encouragent ces impositions privées au nom d'une « modernisation » qui consiste à liquider les classes « arriérées » soupçonnées d'entraver la marche en avant économique — artisans, paysans, ouvriers, employés. Mais, cette fois, l'ampleur et la rapidité du choc provoquent une rébellion à la composition sociale inédite. Les nouveaux luddites se recrutent aussi bien parmi les étudiants, les éleveurs, les catholiques galvanisés par l'encyclique papale Magnifica humanitas, qui appelle à « désarmer l'IA », qu'au sein de la bourgeoisie nationale-conservatrice de type MAGA (« Make America Great Again »). Pour le moment, rien n'agrège ces groupes dont les colères procèdent de trois logiques dissemblables.

La première, et la plus évidente, tient à la perspective d'un grand remplacement des cadres et professions intellectuelles supérieures par des machines. Des secteurs qui avaient accueilli la désindustrialisation avec l'indifférence hautaine que leur inspirait la foi dans l'« économie du savoir » se trouvent à leur tour menacés. La litanie des suppressions de postes dans la finance, le conseil, l'ingénierie informatique, l'architecture, la programmation ainsi que dans le monde de l'information, de la communication et des arts, etc., provoque un dessillement brutal, en particulier chez les plus jeunes, que le système d'enseignement américain fait entrer sur le marché du travail l'enclume de la dette au cou. Dans l'ombre de ces professions chargées de mettre en scène l'espace public, l'automatisation assombrit aussi l'avenir de cohortes d'invisibles : les employés administratifs du privé comme du public, incarnations des petites classes moyennes, souvent très féminisées, dont les fonctions dites « support » ou « d'arrière-boutique » (back-office) se trouvent confrontées à une vague de numérisation (3).

Si la classe dominante occidentale avait pu se satisfaire du chômage des prolétaires, qui produisaient beaucoup mais consommaient peu et faisaient peser sur la vie politique le souvenir déplaisant des révolutions, la robotisation des métiers occupés par les populations aisées introduit une double inconnue dans l'équation socio-économique : comment faire tourner la machine si les groupes qui tirent la consommation intérieure s'appauvrissent ? Comment perpétuer le théâtre politique si les couches-cibles des grands partis dépriment ou se rebellent (4) ? Bien sûr, les prophéties du déclassement numérique hantaient déjà le salariat dans les années 1990, et Internet a renouvelé plutôt qu'anéanti les classes moyennes. Mais le séisme de l'IA s'annonce d'une tout autre magnitude.

Une fin de soirée difficile

Pendant que les économistes libéraux prophétisent un ruissellement universel de lait et de miel, l'un des spécialistes mondiaux des effets de l'innovation prévient : « L'intelligence artificielle devrait creuser l'écart entre les revenus du capital et ceux du travail (5). » Ses infrastructures absorbent les investissements au détriment des autres secteurs, ses valorisations boursières enrichissent les riches et limitent la liberté de contestation de cette moitié des Américains dont l'épargne et les retraites dépendent des marchés. Davantage de milliardaires ou tous à la rue, l'alternative a de quoi enchanter. Les dirigeants de la Silicon Valley, qui devinent une fin de soirée difficile, réclament une forme de redistribution des bénéfices qui limiterait la prolétarisation de leurs clients.

À la perspective du chômage des diplômés s'ajoute l'angoisse, corrosive bien que statistiquement invisible, d'être inutile au monde. Et trahi par ceux qui le dirigent. Le pouvoir des élites non élues alimente une deuxième forme de colère. L'affaire Mythos en fournit une bonne illustration. En avril dernier, la société Anthropic choisit de ne pas rendre public Claude Mythos Preview, son dernier modèle d'IA, si puissant, prétend-elle, que des utilisateurs malintentionnés pourraient s'en servir pour compromettre des infrastructures informatiques critiques. Éthique ou promotionnel, le geste a immédiatement suscité un malaise bien résumé par la juriste Mariana Olaizola Rosenblat : « Les sociétés démocratiques ne devraient pas dépendre de la retenue morale des dirigeants d'entreprise lorsque l'enjeu concerne la stabilité de nos systèmes financiers, de nos réseaux électriques, de nos hôpitaux et de nos élections (6). » Pendant qu'il est encore temps, « l'État doit intervenir et légiférer vigoureusement », plaide-t-elle. C'est précisément ce que M. Donald Trump veut empêcher afin de favoriser les champions américains dans leur compétition avec la Chine (7). L'affrontement mondial autour de l'IA a d'ailleurs incité la Maison Blanche à suspendre mi-juin l'accès des non-Américains a une version bridée de Mythos. Soucieux d'évoluer dans un cadre clair et prévisible, le fondateur d'Anthropic réclame « une réglementation plus stricte et contraignante de l'IA ». Et M. Chris Lehane, directeur des affaires internationales d'OpenAI, suggère que les intérêts imbriqués de l'État et de l'industrie numérique « nécessiteraient pour les gérer la mise en place d'un nouvel hybride public-privé » (8). Dans tous les cas, les impératifs géopolitiques oblitèrent les considérations démocratiques.

Par-delà ses effets sur l'emploi, cette IA en roue libre dirigée par des suprémacistes technologiques nourrit l'idée d'une perte de contrôle face à une technologie caractérisée par son autonomie croissante — les modèles de génération suivante écriront eux-mêmes les lignes de code nécessaires à leur propre perfectionnement… Évidente pour les dirigeants, ce genre de fuite en avant ne va pas de soi pour les autres. Car le type même de rapports sociaux qu'implique l'automatisation révolte le public, et en particulier ceux que l'hebdomadaire The Economist (6 juin 2026) baptise avec épouvante la « Gen Z socialiste » : surveillance généralisée, inégalités abyssales, indifférence à l'environnement, cynisme des élites de la tech qui interdisent à leurs enfants les services qu'ils imposent au reste du monde, interactions robotisées pour les pauvres et domesticité humaine pour les riches.

Manque à ce tableau idyllique le carburant de la machine : la puissance de calcul. Et donc les centres de données. Or une proportion croissante d'Américains — 70 % en mars selon Gallup — refusent l'implantation dans leur voisinage de ces installations bruyantes, polluantes, qui dévorent les paysages, amputent les terres agricoles, assèchent les nappes phréatiques, emploient peu de salariés et, surtout, font exploser les prix de l'électricité. Leur multiplication rend le sujet brûlant : les États-Unis comptaient en avril dernier plus de 3 000 grands data centers opérationnels, essentiellement dans des aires urbaines, mais les 1 500 supplémentaires en cours de construction se situent aux deux tiers en zones rurales, en particulier dans le Sud et le Midwest (9). Ces projets — qui ne répondent pas à un besoin au moment de leur mise en chantier — anticipent la croissance exponentielle de l'IA : le pari d'un avenir virtuel déglingue la vie réelle.

Contrairement aux deux premières, cette troisième composante de la colère contre l'IA s'appuie sur des communautés locales, des mobilisations tangibles ainsi que sur une base sociologiquement diversifiée et transpartisane : mères de famille inquiètes pour l'environnement, chrétiens du Texas, fermiers, ouvriers républicains, techniciens des télécommunications, militants progressistes. « Le niveau d'opposition ne varie pas significativement en fonction de l'âge, de l'origine ethnique, du niveau d'études, du revenu ou du degré d'urbanisation », observe l'enquête de Gallup publiée le 13 mai dernier. « L'affrontement n'oppose pas la droite à la gauche, les démocrates aux républicains, les banlieues à la campagne. En réalité, c'est le haut contre le bas », explique M. Saul Levin, un activiste interrogé par le journaliste Andrew Cockburn. Son enquête à Saline, une petite ville du Michigan où doit s'implanter un data center à 16 milliards de dollars, montre la distance qui s'installe entre, d'un côté, les élus déconcertés par l'opposition locale, les pontes de la tech qui dépêchent avocats et lobbyistes pour les dissuader d'agir, les dirigeants de compagnies d'électricité qui font monter les prix, et, de l'autre, des administrés massés dans les mairies qui secouent leurs représentants (10). La plupart ne s'étaient jamais mobilisés. Un peu comme les « gilets jaunes » en France en 2018-2019, ils se sentent trompés par les politiciens et découvrent la puissance de l'action collective. Le site DataCenterWatch.org dénombre 142 groupes militants dans 24 États. Au cours du seul premier trimestre 2026, 75 projets ont été bloqués ou retardés pour une valeur estimée à 130 milliards de dollars, contre 48 projets ajournés ou annulés pour 156 milliards de dollars au cours de l'année 2025. « Les élus de plus de dix États ont déposé cette année des projets de loi visant à suspendre la construction », rapportait début juin le Washington Post. Et « les habitants de Monterey Park, en Californie, ont approuvé la première interdiction permanente des centres de données, avec plus de 86 % des suffrages » (11).

L'humain d'abord, mais lequel ?

Alors qu'édiles locaux et parlementaires accueillaient avec des cris d'amour et d'exubérantes exonérations fiscales ces cathédrales numériques louangées par M. Trump, l'aversion qu'elles suscitent désormais constitue un enjeu des élections de mi-mandat. Pourtant, à l'exception de quelques figures de gauche (MM. Bernie Sanders et Ro Khanna, Mme Alexandria Ocasio-Cortez, partisans d'un moratoire dans la construction des data centers) ou républicaines (M. Ronald DeSantis, Mme Marjorie Taylor Greene), la contestation populaire ne trouve qu'un relais limité, y compris chez les démocrates. La pression des industriels, les campagnes de dénigrement financées par les lobbys et l'influence de certains syndicats favorables aux installations douchent les velléités oppositionnelles.

Toujours à l'affût d'un élixir qui revitaliserait un mouvement MAGA déboussolé par l'aventurisme militaire de M. Trump et sa dévotion pour les milliardaires de la tech, l'ancien stratège de la Maison Blanche Steve Bannon a, lui, publié en avril une lettre signée d'une soixantaine de personnalités conservatrices proches du président américain pour exhorter ce dernier à réglementer l'IA. « Nous savons que nous ne pouvons pas compter sur ces entreprises pour s'autoréguler », explique le document. La missive était conçue comme une rampe de lancement de « Humans First », déclinaison numérique d'« America First » : « Les mondialistes du numérique cherchent à détourner notre mouvement pour pousser Washington à faire passer les géants de l'IA avant le peuple américain. “Humans First” marque le début de la lutte pour reconquérir notre pays. » Pendant que les partis tergiversent, l'extrême droite tente sa chance…

Déjà, la bataille dépasse le cadre américain. L'IA et les data centers mobilisent au Chili, au Mexique, en Espagne. En France, où M. Emmanuel Macron abaisse le marchepied aux industriels du numérique, le foisonnement des centres de données à Marseille, Grenoble, en Seine-et-Marne, dans les Hauts-de-France, etc., attise le mécontentement des riverains et favorise l'éclosion de collectifs d'opposants. Si l'impopularité abyssale du président de la République ne joue pas en faveur de son IA chérie, la poursuite de la numérisation à marche forcée reste étrangement absente de la campagne électorale qui démarre. Après la propriété, le libre-échange, l'intégration européenne ou l'Alliance atlantique, cette question compte-t-elle désormais au nombre des sujets sur lesquels le vote n'a pas prise ? La peur de rater l'avenir, la mauvaise réputation de mouvements politiquement hétérogènes, l'attrait d'une feinte souveraineté faite d'infrastructures certes locales mais qui tournent sur des puces américaines Nvidia anesthésient le sens critique des meilleures volontés.

« L'humain d'abord » ou « Humans first », populisme populaire ou nationalisme réactionnaire, « gilets jaunes » ou Tea Party : le destin du soulèvement contre les machines pose l'une des grandes questions politiques de notre temps.

Un mur de Nanterre, le 29 juin dernier. Des lettres violettes inscrites à la bombe. « Sans vidéo Nahel serait une statistique pour la Place Beauvau. Fuck le 17 ». Deux jours auparavant, Nahel Merzouk, 17 ans, avait trouvé la mort au volant d'une voiture, après qu'un agent lui eut tiré en pleine poitrine, à bout portant. Des images tournées par une passante et diffusées sur les réseaux sociaux le jour même ont remis en cause la version policière reprise dans les premiers articles sur le drame. Le 27 juin à 8 h 22, le compte rendu du centre de commandement consignait : « Individu blessé par balle à la poitrine gauche. Le fonctionnaire de police s'est mis à l'avant pour le stopper. Le conducteur a essayé de repartir en fonçant sur le fonctionnaire. » Or la séquence filmée montre le motard ouvrant le feu depuis le côté d'un véhicule qui redémarre lentement.

Sans image, que se serait-il passé ? « S'il n'y avait pas eu la vidéo, s'est interrogée la jeune femme qui l'a postée, une collègue de son auteure, quelle aurait été la suite (1)  ? » Plusieurs médias ont comparé l'émotion suscitée par la mort de Nahel Merzouk à la relative indifférence dans laquelle, deux semaines plus tôt, Alhoussein Camara était décédé d'une balle dans le thorax à Saint-Yrieix-sur-Charente, dans la banlieue d'Angoulême. Lors d'un contrôle de police sur la route de son travail, ce jeune homme de 19 ans aurait refusé d'obtempérer et heurté les jambes d'un agent avec sa voiture. Un ami d'enfance témoignait, interdit : « Je sais tellement qu'il n'a pas pu blesser ce policier, mais comment le prouver sans vidéo (2)… »

Les images, en réalité, ne suffisent pas toujours. Du moins à obtenir justice. En 1991, Rodney King, un Afro-Américain de 25 ans, est passé à tabac par quatre policiers à Los Angeles. Avec une petite caméra portative, un riverain capte la scène. Son enregistrement et sa diffusion provoquent l'indignation. La vidéo devient dès lors un outil de preuve, un moyen de scandaliser et de mobiliser, mais aussi d'engager des poursuites judiciaires. L'affaire n'aurait sans doute jamais conduit à un procès sans cette captation, et sans son passage en boucle sur Cable News Network (CNN) : même s'ils ne permettront pas de faire condamner les responsables — les policiers sont acquittés un an plus tard —, ils cristallisent une colère qui conduira aux plus grandes émeutes qu'ait connues Los Angeles.

Dans les années 1960, des collectifs avaient déjà utilisé des caméras comme instrument de surveillance de la police (copwatching). Une coalition d'organisations noires les expérimenta dans le quartier de Watts à Los Angeles à la suite de nombreux meurtres policiers, suivie à Oakland par le Black Panther Party à partir de 1966. Act Up se dota aussi d'un groupe de vidéastes dans les années 1980, dont un des buts était de filmer les manifestations pour prévenir les violences policières. Catherine Gund Saalfield, l'une des fondatrices de Damned Interfering Video Activist Television (DIVA TV), expliquait alors : « Nous avons une banque d'images de flics pliant les poignets des gens jusqu'au point de rupture, de flics matraquant des manifestants sur le dos et les épaules (3). »

À la différence des tenants du cinéma d'intervention — les groupes Medvedkine, par exemple — ou de la télévision alternative, DIVA TV ne cherchait plus seulement à donner la parole aux sans-voix ou à faire exister des corps exclus de la visibilité. La caméra devait servir d'outil dans la lutte, les vidéos de preuve. Mais ce copwatching relevait encore de la pratique politique, de la longue histoire des expériences audiovisuelles militantes. Au cours de la période récente, dans les cas des homicides de George Floyd aux États-Unis ou de Cédric Chouviat en France en 2020, ce sont des voisins ou des passants qui ont filmé la scène ; des caméras de vidéosurveillance ont capté l'arrestation violente de Théo Luhaka à Aulnay-sous-Bois en 2017 ou les coups assenés au producteur de musique Michel Zecler (en 2020 également) ; et, aux États-Unis, où leur emploi est quasi systématique, certaines vidéos de violences proviennent des caméras corporelles de policiers.

Pour les activistes d'aujourd'hui, l'Observatoire national des pratiques et des violences policières (ONVP) ou David Dufresne et sa plate-forme « Allô Place Beauvau », le partage apparaît plus déterminant que l'enregistrement. Et il faudra s'en remettre aux acteurs judiciaires et médiatiques, dont le rôle devient décisif. Or, du journal télévisé au procès, faire parler l'image implique une série de procédés tant techniques que rhétoriques. La parole de l'expert ou du témoin la décrit, la commente ou la met en contexte. À la télévision, les vidéos subissent des modifications matérielles. Des inserts graphiques dirigent le regard vers ce qui devrait être vu, quand le ralenti « peut amener les téléspectateurs à percevoir une action comme plus intentionnelle (4) », le ralentissement induisant le sentiment que l'auteur des faits a eu le temps de penser son action. Il en va de même lors des procès, où les captures d'écran, parfois imprimées et annotées, se substituent à la projection, comme, en France, dans l'affaire Gaye Camara en 2019 (5).

Reste que les effets sociaux des images inquiètent les autorités et agacent les forces de l'ordre. Face à la multiplication des entraves policières à la liberté de filmer, notamment lors des manifestations, le ministère de l'intérieur avait dû rappeler à ses troupes par la voie d'une circulaire datée du 23 décembre 2008 que « les policiers ne bénéficient pas de protection particulière en matière de droit à l'image (…). La liberté de l'information, qu'elle soit le fait de la presse ou d'un simple particulier, prime le droit au respect de l'image ou de la vie privée dès lors que cette liberté n'est pas dévoyée par une atteinte à la dignité de la personne ou au secret de l'enquête ou de l'instruction ».

Malgré cela, en septembre 2019, un jeune « gilet jaune » dijonnais a été condamné à cinq mois de prison avec sursis pour avoir filmé et mis en ligne les images d'affrontements entre des manifestants et des gendarmes. Une décision rendue sur le fondement d'un article du code pénal introduit en 2007 pour sanctionner le happy slapping (ou « vidéo baffe », une agression captée puis diffusée sur les réseaux sociaux). La majorité de M. Emmanuel Macron a ensuite tenté d'entraver la circulation des vidéos de violences policières. Finalement écarté par le Conseil constitutionnel, l'article 24 de la proposition de loi relative à la sécurité globale visait à punir de cinq ans d'emprisonnement la diffusion d'images d'un agent portant « atteinte à son intégrité physique ou psychique ».

La loi promulguée en 2021 a quand même autorisé les policiers à exploiter en temps réel des caméras installées dans les halls d'immeuble ou l'extension de l'accès à la vidéosurveillance aux agents des polices municipales et de la Société nationale des chemins de fer français (SNCF). Face à la multiplication des dispositifs d'enregistrement au sein de la population, il s'agit de construire des contre-feux. « Quand on est attaqué par l'image, il faut se défendre par l'image (6) », soutient M. David Le Bars, secrétaire général du Syndicat des commissaires de la police nationale (SCPN).

Cette volonté d'opposer œil pour œil les caméras-piétons et de vidéosurveillance à celles des citoyens comme celle d'empêcher la circulation de certaines images trahissent la foi des gouvernants dans leur capacité à sensibiliser ou à révéler la répression au plus grand nombre. Cette foi se double d'une croyance dans la puissance mimétique qui conduirait des individus généralement jeunes, peu diplômés, de classes populaires à s'égarer dans la violence pour reproduire ce qu'ils ont vu. À ce titre, le président de la République a souligné le 30 juin dernier, dans une allocution depuis la cellule interministérielle de crise, le « rôle considérable » de Snapchat et TikTok dans les soulèvements des quartiers populaires qui ont suivi la mort de Nahel Merzouk, et dénoncé la diffusion d'images des violences commises dans de très nombreuses villes françaises.

Face à la censure des médias audiovisuels, les plates-formes numériques ont permis au cours des années 2010 de diffuser assez librement des enregistrements. Mais ces entreprises, actrices majeures du capitalisme, n'ont pas vocation à soutenir les révoltes. À l'Assemblée nationale le 10 juillet, la responsable des affaires publiques de Snapchat en France a assuré que son entreprise avait « travaillé conjointement avec le ministère de l'intérieur et les différentes autorités afin d'endiguer le plus rapidement possible les différents dérapages qu'on a pu percevoir sur le terrain ». Avant de se féliciter du résultat de cette collaboration en constatant que « l'ensemble des stories qui étaient publiées » aux derniers soirs du soulèvement provenaient d'utilisateurs « qui se plaignaient justement des émeutes et des conséquences des émeutes ».

Le matin du même jour, le commissaire européen au marché intérieur avait averti de la fin de la fête. Déplorant que les réseaux sociaux n'aient pas préalablement censuré tout message susceptible d'accentuer les émeutes, M. Thierry Breton a prévenu : « Tout cela ne sera plus possible à partir du 25 août », en vertu d'un nouveau règlement sur les services numériques. « Lorsqu'il y aura des contenus haineux, des contenus qui appellent par exemple à la révolte, qui appellent également à tuer ou à brûler des voitures, [les plates-formes] auront l'obligation dans l'instant de les effacer. Si elles ne le font pas, elles seront immédiatement sanctionnées », voire temporairement interdites. Le temps de la désillusion pour les militants qui, depuis le « printemps arabe », associaient réseaux sociaux et liberté ? « Sans les images la révolution n'aurait pas eu lieu », nous disait un Tunisien en 2011… Sans les images ou sans les moyens pour les diffuser ?

« Les gens qui construisent l'intelligence artificielle croient sincèrement qu'elle pourrait tous nous tuer d'ici à la fin de la décennie », a admis en septembre dernier un salarié démissionnaire d'Anthropic, l'une des entreprises les plus à la pointe du secteur. Alerte ou alarmisme ? Quoi qu'il en soit, les robots conversationnels ont déjà profondément modifié notre rapport aux machines et aux autres humains.

En 1966, dix ans après la conférence de Dartmouth, qui marque le coup d'envoi du programme de recherche technoscientifique consacré à l'« intelligence artificielle » (IA), le premier robot conversationnel voit le jour aux États-Unis, entre les murs du célèbre Massachusetts Institute of Technology (MIT). Ce programme, développé par Joseph Weizenbaum, alors professeur d'informatique au MIT, permet de simuler des interactions linguistiques (1). Le principe est simple : un utilisateur tape une phrase à l'aide d'une machine à écrire connectée à un ordinateur, le logiciel analyse la phrase, génère une réponse adaptée en fonction de son script et envoie la réponse sous forme de texte. Son créateur le nomme Eliza, du nom d'un des personnages de la pièce de théâtre Pygmalion (2), Eliza Doolittle, une fleuriste qui apprend un langage aristocratique afin de se faire passer pour une duchesse. Le programme simule non pas une aristocrate, mais un psychothérapeute dans une parodie d'échange avec le patient. Il se contente de reformuler les affirmations de l'utilisateur, la plupart du temps sous forme de question, afin de le faire parler davantage, sans jamais fournir de réponse détaillée.

Ce choix s'explique par des raisons techniques : le programme n'a pas accès à un stock d'informations dans lequel il pourrait puiser pour produire ses réponses, il procède par identification des mots-clés dans les phrases émises et applique des règles. Par exemple, s'il reconnaît des mots comme « père » ou « mère » dans les requêtes écrites par l'utilisateur, le logiciel génère une réponse du type « Parlez-moi de votre famille ». À défaut, Eliza répond avec une phrase générale, du type « Je comprends », « Très bien », « Poursuivez ».

Il s'agit donc d'un dispositif assez basique. Pourtant, les effets psychiques s'avèrent stupéfiants. Weizenbaum lui-même s'étonne de la vitesse et de l'intensité avec lesquelles les utilisateurs l'anthropomorphisent et l'investissent émotionnellement : « Je ne m'étais pas rendu compte que de si courtes interactions avec un programme informatique relativement simple pouvaient induire des pensées délirantes chez des personnes plutôt normales », écrira-t-il dix ans plus tard, revenant ainsi de manière critique sur cette expérimentation technologique (3). Weizenbaum cite le cas de sa secrétaire, qui lui demande de sortir de la pièce lorsqu'elle expérimente le programme, comme s'il s'agissait d'une personne humaine à laquelle elle s'apprêtait à confier ses plus intimes secrets. L'informaticien s'étonne ainsi des « attributions extrêmement exagérées » auxquelles « même un public bien éduqué est capable de procéder (…) à l'égard de technologies qu'il ne comprend pas ». Selon Weizenbaum, notre tendance collective à accorder à l'ordinateur des intentions ou des émotions tient en grande partie à notre incapacité à comprendre le fonctionnement interne de ces programmes informatiques. En détaillant le mécanisme d'Eliza, l'informaticien tente donc de dépouiller l'ensemble de son « aura magique », dans le but de démystifier ces nouvelles technologies.

Soixante ans plus tard, ces efforts n'ont manifestement pas porté leurs fruits. Si l'expression « effet Eliza » désigne désormais la tendance à assimiler le fonctionnement d'un ordinateur à un comportement humain ou à attribuer à un système informatique une intériorité psychique (des intentions, des émotions, de la compréhension…), les réflexions critiques de l'informaticien semblent avoir été largement oubliées. Depuis le lancement du robot conversationnel ChatGPT en 2022, on ne compte plus les individus parmi ses millions d'usagers s'adressant à ce type de dispositifs numériques à la deuxième personne du singulier. Tout se passe comme s'ils dialoguaient avec un humain capable de comprendre les demandes qui lui sont adressées et comme si l'expérimentation de laboratoire du chercheur informaticien était désormais menée à une échelle de masse par une poignée d'entreprises privées.

Dès lors, l'anthropomorphisation relève du quotidien. L'« effet Eliza » alimente un nouveau marché, et les délires identifiés à l'époque par Weizenbaum prennent une dimension collective et planétaire — y compris à travers notre langue usuelle, qui mobilise les termes anthropomorphiques d'« intelligence artificielle », d'« assistant virtuel » ou encore d'« agent conversationnel ». Contrairement à Eliza, dont le programme simple avait été clairement explicité par son concepteur dans un article scientifique, les produits logiciels actuels s'appuient sur des algorithmes qui demeurent la plupart du temps inconnus des usagers et dont les spécificités ne sont pas toujours divulguées. En somme, ces robots conversationnels se révèlent aussi faciles à utiliser que difficiles à comprendre. Or, comme l'avait anticipé Weizenbaum et comme le confirme une récente étude (4), moins nous comprenons, plus nous anthropomorphisons, et plus nous avons tendance à solliciter ces dispositifs à la place de personnes humaines — par exemple, pour la demande de conseils ou le soutien émotionnel. L'étude montre que les sentiments d'émerveillement ou de magie suscités par ces programmes incitent à des usages anthropomorphiques, eux-mêmes susceptibles d'engendrer des formes de dépendance affective. Sans surprise, les personnes qui comprennent mieux le fonctionnement de ces dispositifs ont moins tendance à se confier, et utilisent davantage les algorithmes pour des tâches spécifiques et limitées (analyse de résultats, synthèse documentaire, etc.).

Il n'est guère étonnant que les entreprises qui conçoivent ces services numériques développent toutes sortes de spécifications susceptibles d'aviver notre tendance à l'anthropomorphisation pour nous rendre dépendants. Pareille stratégie s'observait déjà sur les réseaux sociaux commerciaux à travers des fonctionnalités comme le défilement infini ou les recommandations personnalisées, destinées à maximiser l'engagement des usagers en les incitant à rester connectés et en les enfermant dans des bulles adaptées. Cette économie de l'attention revêt désormais la forme d'une économie de l'attachement qui exploite nos affects et nos émotions en jouant sur nos inclinations psychiques (5). La plupart des dispositifs gratuitement disponibles pour le grand public utilisent ainsi la première personne du singulier (le pronom « je »), relancent les usagers avec de nouvelles questions et les flattent ou les confortent dans leurs opinions — pour ne citer que quelques-unes des techniques mobilisées (6). Loin de démystifier nos rapports aux machines algorithmiques, tel que le préconisait Weizenbaum, le modèle exploite notre besoin de reconnaissance et nous incite à entretenir des relations personnalisées avec ces services numériques.

Ces projections anthropomorphiques sont évidemment décuplées dans le cas des applications fournissant des « compagnons » virtuels expressément conçus pour simuler des conversations émotionnelles ou amicales avec les usagers, comme celles proposées par les entreprises Replika ou Character.AI. Certains en viennent ainsi à tomber amoureux de leur chatbot, alors que les plus désespérés leur demandent des conseils pour se suicider. Plusieurs plaintes déposées aux États-Unis concernent des utilisateurs ayant mis fin à leurs jours après des échanges avec des robots, lesquels auraient encouragé leurs idées noires. À en croire un rapport du Center for Countering Digital Hate (7), ces cas pourraient illustrer un problème plus structurel lié à la fréquence des instructions nocives générées par ces systèmes : conseils pour se mutiler, listes de médicaments pour une surdose, lettres d'adieu rédigées.

Au-delà de ces dangers pour la santé des jeunes usagers, il semble légitime de s'interroger sur les effets à long terme des interactions quotidiennes avec des automates numériques. Comment affecteront-ils nos vies psychiques ? Comment conserver des savoirs sociaux fondamentaux comme l'écoute, l'empathie, la patience, ou encore la capacité à débattre et à argumenter, une fois acquise l'habitude d'adresser des demandes impératives à des robots conversationnels disponibles vingt-quatre heures sur vingt-quatre et sept jours sur sept, toujours de notre côté, toujours prêts à nous flatter ? Car, tant que nous disposons des ressources matérielles pour les faire fonctionner, les systèmes algorithmiques ne seront jamais fatigués, jamais malades, jamais dans le besoin d'une quelconque attention.

« Capitalisme de la solitude »

Ces robots fournissent donc des simulacres d'altérité qui suppriment les risques de l'exposition à autrui et la surprise que toute rencontre implique. L'individu qui s'entretient avec son chatbot ne rencontre personne, si ce n'est un reflet algorithmique de lui-même, généré sur la base des calculs probabilistes effectués sur ses données personnelles. Illusionné par ce reflet qui semble lui parler à la deuxième personne du singulier, il le prend alors pour un autre, confondant sa propre image avec une altérité, exactement comme Narcisse dans le mythe, qui finit par tomber amoureux de son reflet, à l'image des individus s'éprenant de leur double numérique.

À travers les chatbots ne se nouent ni une relation sociale avec un autre ni une relation réflexive avec soi-même, mais un rapport à soi confondu avec un rapport à l'autre, qui pourrait nous pousser à régresser dans un état de confusion caractérisé par l'indistinction du moi et de l'autre, du moi et du monde, des pulsions et de la réalité. Loin de constituer des alter ego, ces simulacres numériques dénient toute possibilité de séparation, donc de relation. L'économie de l'attachement menace ainsi la possibilité même de se relier, les liens sociaux étant peu à peu supplantés par une dépendance affective à des services numériques contrôlés par des entreprises privées, auxquels des publicités ciblées sont désormais intégrées (8). Alors que l'isolement est désormais reconnu comme un problème de santé publique (9), ce « capitalisme de la solitude (10) » pourrait bien engendrer une prolétarisation sociale généralisée.

Face à une telle situation, les intuitions de Weizenbaum méritent sans doute d'être remises au goût du jour. Plusieurs propositions politiques vont dans ce sens. Par exemple, l'idée de désanthropomorphiser les chatbots, en évitant la première personne du singulier, les relances ou les flatteries (11). Une telle décision semblerait conforme aux règlements européens comme le Digital Services Act, dont l'article 25 interdit les interfaces trompeuses (dark patterns), ou comme l'AI Act, dont l'article 5 proscrit les systèmes d'IA qui déploient des techniques subliminales ou manipulatrices. On pourrait aussi envisager un changement de modèle plus profond, valorisant les technologies contributives qui soutiennent les relations d'entraide ou de solidarité, le partage des savoirs entre pairs ou la constitution de groupes capacitants (12). Ces technologies existent, mais leur généralisation nécessite un soutien politique, de nouveaux droits collectifs et de nouveaux modèles économiques. Le destin numérique de nos liens affectifs en dépend.