Un mur de Nanterre, le 29 juin dernier. Des lettres violettes inscrites à la bombe. « Sans vidéo Nahel serait une statistique pour la Place Beauvau. Fuck le 17 ». Deux jours auparavant, Nahel Merzouk, 17 ans, avait trouvé la mort au volant d'une voiture, après qu'un agent lui eut tiré en pleine poitrine, à bout portant. Des images tournées par une passante et diffusées sur les réseaux sociaux le jour même ont remis en cause la version policière reprise dans les premiers articles sur le drame. Le 27 juin à 8 h 22, le compte rendu du centre de commandement consignait : « Individu blessé par balle à la poitrine gauche. Le fonctionnaire de police s'est mis à l'avant pour le stopper. Le conducteur a essayé de repartir en fonçant sur le fonctionnaire. » Or la séquence filmée montre le motard ouvrant le feu depuis le côté d'un véhicule qui redémarre lentement.

Sans image, que se serait-il passé ? « S'il n'y avait pas eu la vidéo, s'est interrogée la jeune femme qui l'a postée, une collègue de son auteure, quelle aurait été la suite (1)  ? » Plusieurs médias ont comparé l'émotion suscitée par la mort de Nahel Merzouk à la relative indifférence dans laquelle, deux semaines plus tôt, Alhoussein Camara était décédé d'une balle dans le thorax à Saint-Yrieix-sur-Charente, dans la banlieue d'Angoulême. Lors d'un contrôle de police sur la route de son travail, ce jeune homme de 19 ans aurait refusé d'obtempérer et heurté les jambes d'un agent avec sa voiture. Un ami d'enfance témoignait, interdit : « Je sais tellement qu'il n'a pas pu blesser ce policier, mais comment le prouver sans vidéo (2)… »

Les images, en réalité, ne suffisent pas toujours. Du moins à obtenir justice. En 1991, Rodney King, un Afro-Américain de 25 ans, est passé à tabac par quatre policiers à Los Angeles. Avec une petite caméra portative, un riverain capte la scène. Son enregistrement et sa diffusion provoquent l'indignation. La vidéo devient dès lors un outil de preuve, un moyen de scandaliser et de mobiliser, mais aussi d'engager des poursuites judiciaires. L'affaire n'aurait sans doute jamais conduit à un procès sans cette captation, et sans son passage en boucle sur Cable News Network (CNN) : même s'ils ne permettront pas de faire condamner les responsables — les policiers sont acquittés un an plus tard —, ils cristallisent une colère qui conduira aux plus grandes émeutes qu'ait connues Los Angeles.

Dans les années 1960, des collectifs avaient déjà utilisé des caméras comme instrument de surveillance de la police (copwatching). Une coalition d'organisations noires les expérimenta dans le quartier de Watts à Los Angeles à la suite de nombreux meurtres policiers, suivie à Oakland par le Black Panther Party à partir de 1966. Act Up se dota aussi d'un groupe de vidéastes dans les années 1980, dont un des buts était de filmer les manifestations pour prévenir les violences policières. Catherine Gund Saalfield, l'une des fondatrices de Damned Interfering Video Activist Television (DIVA TV), expliquait alors : « Nous avons une banque d'images de flics pliant les poignets des gens jusqu'au point de rupture, de flics matraquant des manifestants sur le dos et les épaules (3). »

À la différence des tenants du cinéma d'intervention — les groupes Medvedkine, par exemple — ou de la télévision alternative, DIVA TV ne cherchait plus seulement à donner la parole aux sans-voix ou à faire exister des corps exclus de la visibilité. La caméra devait servir d'outil dans la lutte, les vidéos de preuve. Mais ce copwatching relevait encore de la pratique politique, de la longue histoire des expériences audiovisuelles militantes. Au cours de la période récente, dans les cas des homicides de George Floyd aux États-Unis ou de Cédric Chouviat en France en 2020, ce sont des voisins ou des passants qui ont filmé la scène ; des caméras de vidéosurveillance ont capté l'arrestation violente de Théo Luhaka à Aulnay-sous-Bois en 2017 ou les coups assenés au producteur de musique Michel Zecler (en 2020 également) ; et, aux États-Unis, où leur emploi est quasi systématique, certaines vidéos de violences proviennent des caméras corporelles de policiers.

Pour les activistes d'aujourd'hui, l'Observatoire national des pratiques et des violences policières (ONVP) ou David Dufresne et sa plate-forme « Allô Place Beauvau », le partage apparaît plus déterminant que l'enregistrement. Et il faudra s'en remettre aux acteurs judiciaires et médiatiques, dont le rôle devient décisif. Or, du journal télévisé au procès, faire parler l'image implique une série de procédés tant techniques que rhétoriques. La parole de l'expert ou du témoin la décrit, la commente ou la met en contexte. À la télévision, les vidéos subissent des modifications matérielles. Des inserts graphiques dirigent le regard vers ce qui devrait être vu, quand le ralenti « peut amener les téléspectateurs à percevoir une action comme plus intentionnelle (4) », le ralentissement induisant le sentiment que l'auteur des faits a eu le temps de penser son action. Il en va de même lors des procès, où les captures d'écran, parfois imprimées et annotées, se substituent à la projection, comme, en France, dans l'affaire Gaye Camara en 2019 (5).

Reste que les effets sociaux des images inquiètent les autorités et agacent les forces de l'ordre. Face à la multiplication des entraves policières à la liberté de filmer, notamment lors des manifestations, le ministère de l'intérieur avait dû rappeler à ses troupes par la voie d'une circulaire datée du 23 décembre 2008 que « les policiers ne bénéficient pas de protection particulière en matière de droit à l'image (…). La liberté de l'information, qu'elle soit le fait de la presse ou d'un simple particulier, prime le droit au respect de l'image ou de la vie privée dès lors que cette liberté n'est pas dévoyée par une atteinte à la dignité de la personne ou au secret de l'enquête ou de l'instruction ».

Malgré cela, en septembre 2019, un jeune « gilet jaune » dijonnais a été condamné à cinq mois de prison avec sursis pour avoir filmé et mis en ligne les images d'affrontements entre des manifestants et des gendarmes. Une décision rendue sur le fondement d'un article du code pénal introduit en 2007 pour sanctionner le happy slapping (ou « vidéo baffe », une agression captée puis diffusée sur les réseaux sociaux). La majorité de M. Emmanuel Macron a ensuite tenté d'entraver la circulation des vidéos de violences policières. Finalement écarté par le Conseil constitutionnel, l'article 24 de la proposition de loi relative à la sécurité globale visait à punir de cinq ans d'emprisonnement la diffusion d'images d'un agent portant « atteinte à son intégrité physique ou psychique ».

La loi promulguée en 2021 a quand même autorisé les policiers à exploiter en temps réel des caméras installées dans les halls d'immeuble ou l'extension de l'accès à la vidéosurveillance aux agents des polices municipales et de la Société nationale des chemins de fer français (SNCF). Face à la multiplication des dispositifs d'enregistrement au sein de la population, il s'agit de construire des contre-feux. « Quand on est attaqué par l'image, il faut se défendre par l'image (6) », soutient M. David Le Bars, secrétaire général du Syndicat des commissaires de la police nationale (SCPN).

Cette volonté d'opposer œil pour œil les caméras-piétons et de vidéosurveillance à celles des citoyens comme celle d'empêcher la circulation de certaines images trahissent la foi des gouvernants dans leur capacité à sensibiliser ou à révéler la répression au plus grand nombre. Cette foi se double d'une croyance dans la puissance mimétique qui conduirait des individus généralement jeunes, peu diplômés, de classes populaires à s'égarer dans la violence pour reproduire ce qu'ils ont vu. À ce titre, le président de la République a souligné le 30 juin dernier, dans une allocution depuis la cellule interministérielle de crise, le « rôle considérable » de Snapchat et TikTok dans les soulèvements des quartiers populaires qui ont suivi la mort de Nahel Merzouk, et dénoncé la diffusion d'images des violences commises dans de très nombreuses villes françaises.

Face à la censure des médias audiovisuels, les plates-formes numériques ont permis au cours des années 2010 de diffuser assez librement des enregistrements. Mais ces entreprises, actrices majeures du capitalisme, n'ont pas vocation à soutenir les révoltes. À l'Assemblée nationale le 10 juillet, la responsable des affaires publiques de Snapchat en France a assuré que son entreprise avait « travaillé conjointement avec le ministère de l'intérieur et les différentes autorités afin d'endiguer le plus rapidement possible les différents dérapages qu'on a pu percevoir sur le terrain ». Avant de se féliciter du résultat de cette collaboration en constatant que « l'ensemble des stories qui étaient publiées » aux derniers soirs du soulèvement provenaient d'utilisateurs « qui se plaignaient justement des émeutes et des conséquences des émeutes ».

Le matin du même jour, le commissaire européen au marché intérieur avait averti de la fin de la fête. Déplorant que les réseaux sociaux n'aient pas préalablement censuré tout message susceptible d'accentuer les émeutes, M. Thierry Breton a prévenu : « Tout cela ne sera plus possible à partir du 25 août », en vertu d'un nouveau règlement sur les services numériques. « Lorsqu'il y aura des contenus haineux, des contenus qui appellent par exemple à la révolte, qui appellent également à tuer ou à brûler des voitures, [les plates-formes] auront l'obligation dans l'instant de les effacer. Si elles ne le font pas, elles seront immédiatement sanctionnées », voire temporairement interdites. Le temps de la désillusion pour les militants qui, depuis le « printemps arabe », associaient réseaux sociaux et liberté ? « Sans les images la révolution n'aurait pas eu lieu », nous disait un Tunisien en 2011… Sans les images ou sans les moyens pour les diffuser ?

« Les gens qui construisent l'intelligence artificielle croient sincèrement qu'elle pourrait tous nous tuer d'ici à la fin de la décennie », a admis en septembre dernier un salarié démissionnaire d'Anthropic, l'une des entreprises les plus à la pointe du secteur. Alerte ou alarmisme ? Quoi qu'il en soit, les robots conversationnels ont déjà profondément modifié notre rapport aux machines et aux autres humains.

En 1966, dix ans après la conférence de Dartmouth, qui marque le coup d'envoi du programme de recherche technoscientifique consacré à l'« intelligence artificielle » (IA), le premier robot conversationnel voit le jour aux États-Unis, entre les murs du célèbre Massachusetts Institute of Technology (MIT). Ce programme, développé par Joseph Weizenbaum, alors professeur d'informatique au MIT, permet de simuler des interactions linguistiques (1). Le principe est simple : un utilisateur tape une phrase à l'aide d'une machine à écrire connectée à un ordinateur, le logiciel analyse la phrase, génère une réponse adaptée en fonction de son script et envoie la réponse sous forme de texte. Son créateur le nomme Eliza, du nom d'un des personnages de la pièce de théâtre Pygmalion (2), Eliza Doolittle, une fleuriste qui apprend un langage aristocratique afin de se faire passer pour une duchesse. Le programme simule non pas une aristocrate, mais un psychothérapeute dans une parodie d'échange avec le patient. Il se contente de reformuler les affirmations de l'utilisateur, la plupart du temps sous forme de question, afin de le faire parler davantage, sans jamais fournir de réponse détaillée.

Ce choix s'explique par des raisons techniques : le programme n'a pas accès à un stock d'informations dans lequel il pourrait puiser pour produire ses réponses, il procède par identification des mots-clés dans les phrases émises et applique des règles. Par exemple, s'il reconnaît des mots comme « père » ou « mère » dans les requêtes écrites par l'utilisateur, le logiciel génère une réponse du type « Parlez-moi de votre famille ». À défaut, Eliza répond avec une phrase générale, du type « Je comprends », « Très bien », « Poursuivez ».

Il s'agit donc d'un dispositif assez basique. Pourtant, les effets psychiques s'avèrent stupéfiants. Weizenbaum lui-même s'étonne de la vitesse et de l'intensité avec lesquelles les utilisateurs l'anthropomorphisent et l'investissent émotionnellement : « Je ne m'étais pas rendu compte que de si courtes interactions avec un programme informatique relativement simple pouvaient induire des pensées délirantes chez des personnes plutôt normales », écrira-t-il dix ans plus tard, revenant ainsi de manière critique sur cette expérimentation technologique (3). Weizenbaum cite le cas de sa secrétaire, qui lui demande de sortir de la pièce lorsqu'elle expérimente le programme, comme s'il s'agissait d'une personne humaine à laquelle elle s'apprêtait à confier ses plus intimes secrets. L'informaticien s'étonne ainsi des « attributions extrêmement exagérées » auxquelles « même un public bien éduqué est capable de procéder (…) à l'égard de technologies qu'il ne comprend pas ». Selon Weizenbaum, notre tendance collective à accorder à l'ordinateur des intentions ou des émotions tient en grande partie à notre incapacité à comprendre le fonctionnement interne de ces programmes informatiques. En détaillant le mécanisme d'Eliza, l'informaticien tente donc de dépouiller l'ensemble de son « aura magique », dans le but de démystifier ces nouvelles technologies.

Soixante ans plus tard, ces efforts n'ont manifestement pas porté leurs fruits. Si l'expression « effet Eliza » désigne désormais la tendance à assimiler le fonctionnement d'un ordinateur à un comportement humain ou à attribuer à un système informatique une intériorité psychique (des intentions, des émotions, de la compréhension…), les réflexions critiques de l'informaticien semblent avoir été largement oubliées. Depuis le lancement du robot conversationnel ChatGPT en 2022, on ne compte plus les individus parmi ses millions d'usagers s'adressant à ce type de dispositifs numériques à la deuxième personne du singulier. Tout se passe comme s'ils dialoguaient avec un humain capable de comprendre les demandes qui lui sont adressées et comme si l'expérimentation de laboratoire du chercheur informaticien était désormais menée à une échelle de masse par une poignée d'entreprises privées.

Dès lors, l'anthropomorphisation relève du quotidien. L'« effet Eliza » alimente un nouveau marché, et les délires identifiés à l'époque par Weizenbaum prennent une dimension collective et planétaire — y compris à travers notre langue usuelle, qui mobilise les termes anthropomorphiques d'« intelligence artificielle », d'« assistant virtuel » ou encore d'« agent conversationnel ». Contrairement à Eliza, dont le programme simple avait été clairement explicité par son concepteur dans un article scientifique, les produits logiciels actuels s'appuient sur des algorithmes qui demeurent la plupart du temps inconnus des usagers et dont les spécificités ne sont pas toujours divulguées. En somme, ces robots conversationnels se révèlent aussi faciles à utiliser que difficiles à comprendre. Or, comme l'avait anticipé Weizenbaum et comme le confirme une récente étude (4), moins nous comprenons, plus nous anthropomorphisons, et plus nous avons tendance à solliciter ces dispositifs à la place de personnes humaines — par exemple, pour la demande de conseils ou le soutien émotionnel. L'étude montre que les sentiments d'émerveillement ou de magie suscités par ces programmes incitent à des usages anthropomorphiques, eux-mêmes susceptibles d'engendrer des formes de dépendance affective. Sans surprise, les personnes qui comprennent mieux le fonctionnement de ces dispositifs ont moins tendance à se confier, et utilisent davantage les algorithmes pour des tâches spécifiques et limitées (analyse de résultats, synthèse documentaire, etc.).

Il n'est guère étonnant que les entreprises qui conçoivent ces services numériques développent toutes sortes de spécifications susceptibles d'aviver notre tendance à l'anthropomorphisation pour nous rendre dépendants. Pareille stratégie s'observait déjà sur les réseaux sociaux commerciaux à travers des fonctionnalités comme le défilement infini ou les recommandations personnalisées, destinées à maximiser l'engagement des usagers en les incitant à rester connectés et en les enfermant dans des bulles adaptées. Cette économie de l'attention revêt désormais la forme d'une économie de l'attachement qui exploite nos affects et nos émotions en jouant sur nos inclinations psychiques (5). La plupart des dispositifs gratuitement disponibles pour le grand public utilisent ainsi la première personne du singulier (le pronom « je »), relancent les usagers avec de nouvelles questions et les flattent ou les confortent dans leurs opinions — pour ne citer que quelques-unes des techniques mobilisées (6). Loin de démystifier nos rapports aux machines algorithmiques, tel que le préconisait Weizenbaum, le modèle exploite notre besoin de reconnaissance et nous incite à entretenir des relations personnalisées avec ces services numériques.

Ces projections anthropomorphiques sont évidemment décuplées dans le cas des applications fournissant des « compagnons » virtuels expressément conçus pour simuler des conversations émotionnelles ou amicales avec les usagers, comme celles proposées par les entreprises Replika ou Character.AI. Certains en viennent ainsi à tomber amoureux de leur chatbot, alors que les plus désespérés leur demandent des conseils pour se suicider. Plusieurs plaintes déposées aux États-Unis concernent des utilisateurs ayant mis fin à leurs jours après des échanges avec des robots, lesquels auraient encouragé leurs idées noires. À en croire un rapport du Center for Countering Digital Hate (7), ces cas pourraient illustrer un problème plus structurel lié à la fréquence des instructions nocives générées par ces systèmes : conseils pour se mutiler, listes de médicaments pour une surdose, lettres d'adieu rédigées.

Au-delà de ces dangers pour la santé des jeunes usagers, il semble légitime de s'interroger sur les effets à long terme des interactions quotidiennes avec des automates numériques. Comment affecteront-ils nos vies psychiques ? Comment conserver des savoirs sociaux fondamentaux comme l'écoute, l'empathie, la patience, ou encore la capacité à débattre et à argumenter, une fois acquise l'habitude d'adresser des demandes impératives à des robots conversationnels disponibles vingt-quatre heures sur vingt-quatre et sept jours sur sept, toujours de notre côté, toujours prêts à nous flatter ? Car, tant que nous disposons des ressources matérielles pour les faire fonctionner, les systèmes algorithmiques ne seront jamais fatigués, jamais malades, jamais dans le besoin d'une quelconque attention.

« Capitalisme de la solitude »

Ces robots fournissent donc des simulacres d'altérité qui suppriment les risques de l'exposition à autrui et la surprise que toute rencontre implique. L'individu qui s'entretient avec son chatbot ne rencontre personne, si ce n'est un reflet algorithmique de lui-même, généré sur la base des calculs probabilistes effectués sur ses données personnelles. Illusionné par ce reflet qui semble lui parler à la deuxième personne du singulier, il le prend alors pour un autre, confondant sa propre image avec une altérité, exactement comme Narcisse dans le mythe, qui finit par tomber amoureux de son reflet, à l'image des individus s'éprenant de leur double numérique.

À travers les chatbots ne se nouent ni une relation sociale avec un autre ni une relation réflexive avec soi-même, mais un rapport à soi confondu avec un rapport à l'autre, qui pourrait nous pousser à régresser dans un état de confusion caractérisé par l'indistinction du moi et de l'autre, du moi et du monde, des pulsions et de la réalité. Loin de constituer des alter ego, ces simulacres numériques dénient toute possibilité de séparation, donc de relation. L'économie de l'attachement menace ainsi la possibilité même de se relier, les liens sociaux étant peu à peu supplantés par une dépendance affective à des services numériques contrôlés par des entreprises privées, auxquels des publicités ciblées sont désormais intégrées (8). Alors que l'isolement est désormais reconnu comme un problème de santé publique (9), ce « capitalisme de la solitude (10) » pourrait bien engendrer une prolétarisation sociale généralisée.

Face à une telle situation, les intuitions de Weizenbaum méritent sans doute d'être remises au goût du jour. Plusieurs propositions politiques vont dans ce sens. Par exemple, l'idée de désanthropomorphiser les chatbots, en évitant la première personne du singulier, les relances ou les flatteries (11). Une telle décision semblerait conforme aux règlements européens comme le Digital Services Act, dont l'article 25 interdit les interfaces trompeuses (dark patterns), ou comme l'AI Act, dont l'article 5 proscrit les systèmes d'IA qui déploient des techniques subliminales ou manipulatrices. On pourrait aussi envisager un changement de modèle plus profond, valorisant les technologies contributives qui soutiennent les relations d'entraide ou de solidarité, le partage des savoirs entre pairs ou la constitution de groupes capacitants (12). Ces technologies existent, mais leur généralisation nécessite un soutien politique, de nouveaux droits collectifs et de nouveaux modèles économiques. Le destin numérique de nos liens affectifs en dépend.