« Les gens qui construisent l'intelligence artificielle croient sincèrement qu'elle pourrait tous nous tuer d'ici à la fin de la décennie », a admis en septembre dernier un salarié démissionnaire d'Anthropic, l'une des entreprises les plus à la pointe du secteur. Alerte ou alarmisme ? Quoi qu'il en soit, les robots conversationnels ont déjà profondément modifié notre rapport aux machines et aux autres humains.

En 1966, dix ans après la conférence de Dartmouth, qui marque le coup d'envoi du programme de recherche technoscientifique consacré à l'« intelligence artificielle » (IA), le premier robot conversationnel voit le jour aux États-Unis, entre les murs du célèbre Massachusetts Institute of Technology (MIT). Ce programme, développé par Joseph Weizenbaum, alors professeur d'informatique au MIT, permet de simuler des interactions linguistiques (1). Le principe est simple : un utilisateur tape une phrase à l'aide d'une machine à écrire connectée à un ordinateur, le logiciel analyse la phrase, génère une réponse adaptée en fonction de son script et envoie la réponse sous forme de texte. Son créateur le nomme Eliza, du nom d'un des personnages de la pièce de théâtre Pygmalion (2), Eliza Doolittle, une fleuriste qui apprend un langage aristocratique afin de se faire passer pour une duchesse. Le programme simule non pas une aristocrate, mais un psychothérapeute dans une parodie d'échange avec le patient. Il se contente de reformuler les affirmations de l'utilisateur, la plupart du temps sous forme de question, afin de le faire parler davantage, sans jamais fournir de réponse détaillée.

Ce choix s'explique par des raisons techniques : le programme n'a pas accès à un stock d'informations dans lequel il pourrait puiser pour produire ses réponses, il procède par identification des mots-clés dans les phrases émises et applique des règles. Par exemple, s'il reconnaît des mots comme « père » ou « mère » dans les requêtes écrites par l'utilisateur, le logiciel génère une réponse du type « Parlez-moi de votre famille ». À défaut, Eliza répond avec une phrase générale, du type « Je comprends », « Très bien », « Poursuivez ».

Il s'agit donc d'un dispositif assez basique. Pourtant, les effets psychiques s'avèrent stupéfiants. Weizenbaum lui-même s'étonne de la vitesse et de l'intensité avec lesquelles les utilisateurs l'anthropomorphisent et l'investissent émotionnellement : « Je ne m'étais pas rendu compte que de si courtes interactions avec un programme informatique relativement simple pouvaient induire des pensées délirantes chez des personnes plutôt normales », écrira-t-il dix ans plus tard, revenant ainsi de manière critique sur cette expérimentation technologique (3). Weizenbaum cite le cas de sa secrétaire, qui lui demande de sortir de la pièce lorsqu'elle expérimente le programme, comme s'il s'agissait d'une personne humaine à laquelle elle s'apprêtait à confier ses plus intimes secrets. L'informaticien s'étonne ainsi des « attributions extrêmement exagérées » auxquelles « même un public bien éduqué est capable de procéder (…) à l'égard de technologies qu'il ne comprend pas ». Selon Weizenbaum, notre tendance collective à accorder à l'ordinateur des intentions ou des émotions tient en grande partie à notre incapacité à comprendre le fonctionnement interne de ces programmes informatiques. En détaillant le mécanisme d'Eliza, l'informaticien tente donc de dépouiller l'ensemble de son « aura magique », dans le but de démystifier ces nouvelles technologies.

Soixante ans plus tard, ces efforts n'ont manifestement pas porté leurs fruits. Si l'expression « effet Eliza » désigne désormais la tendance à assimiler le fonctionnement d'un ordinateur à un comportement humain ou à attribuer à un système informatique une intériorité psychique (des intentions, des émotions, de la compréhension…), les réflexions critiques de l'informaticien semblent avoir été largement oubliées. Depuis le lancement du robot conversationnel ChatGPT en 2022, on ne compte plus les individus parmi ses millions d'usagers s'adressant à ce type de dispositifs numériques à la deuxième personne du singulier. Tout se passe comme s'ils dialoguaient avec un humain capable de comprendre les demandes qui lui sont adressées et comme si l'expérimentation de laboratoire du chercheur informaticien était désormais menée à une échelle de masse par une poignée d'entreprises privées.

Dès lors, l'anthropomorphisation relève du quotidien. L'« effet Eliza » alimente un nouveau marché, et les délires identifiés à l'époque par Weizenbaum prennent une dimension collective et planétaire — y compris à travers notre langue usuelle, qui mobilise les termes anthropomorphiques d'« intelligence artificielle », d'« assistant virtuel » ou encore d'« agent conversationnel ». Contrairement à Eliza, dont le programme simple avait été clairement explicité par son concepteur dans un article scientifique, les produits logiciels actuels s'appuient sur des algorithmes qui demeurent la plupart du temps inconnus des usagers et dont les spécificités ne sont pas toujours divulguées. En somme, ces robots conversationnels se révèlent aussi faciles à utiliser que difficiles à comprendre. Or, comme l'avait anticipé Weizenbaum et comme le confirme une récente étude (4), moins nous comprenons, plus nous anthropomorphisons, et plus nous avons tendance à solliciter ces dispositifs à la place de personnes humaines — par exemple, pour la demande de conseils ou le soutien émotionnel. L'étude montre que les sentiments d'émerveillement ou de magie suscités par ces programmes incitent à des usages anthropomorphiques, eux-mêmes susceptibles d'engendrer des formes de dépendance affective. Sans surprise, les personnes qui comprennent mieux le fonctionnement de ces dispositifs ont moins tendance à se confier, et utilisent davantage les algorithmes pour des tâches spécifiques et limitées (analyse de résultats, synthèse documentaire, etc.).

Il n'est guère étonnant que les entreprises qui conçoivent ces services numériques développent toutes sortes de spécifications susceptibles d'aviver notre tendance à l'anthropomorphisation pour nous rendre dépendants. Pareille stratégie s'observait déjà sur les réseaux sociaux commerciaux à travers des fonctionnalités comme le défilement infini ou les recommandations personnalisées, destinées à maximiser l'engagement des usagers en les incitant à rester connectés et en les enfermant dans des bulles adaptées. Cette économie de l'attention revêt désormais la forme d'une économie de l'attachement qui exploite nos affects et nos émotions en jouant sur nos inclinations psychiques (5). La plupart des dispositifs gratuitement disponibles pour le grand public utilisent ainsi la première personne du singulier (le pronom « je »), relancent les usagers avec de nouvelles questions et les flattent ou les confortent dans leurs opinions — pour ne citer que quelques-unes des techniques mobilisées (6). Loin de démystifier nos rapports aux machines algorithmiques, tel que le préconisait Weizenbaum, le modèle exploite notre besoin de reconnaissance et nous incite à entretenir des relations personnalisées avec ces services numériques.

Ces projections anthropomorphiques sont évidemment décuplées dans le cas des applications fournissant des « compagnons » virtuels expressément conçus pour simuler des conversations émotionnelles ou amicales avec les usagers, comme celles proposées par les entreprises Replika ou Character.AI. Certains en viennent ainsi à tomber amoureux de leur chatbot, alors que les plus désespérés leur demandent des conseils pour se suicider. Plusieurs plaintes déposées aux États-Unis concernent des utilisateurs ayant mis fin à leurs jours après des échanges avec des robots, lesquels auraient encouragé leurs idées noires. À en croire un rapport du Center for Countering Digital Hate (7), ces cas pourraient illustrer un problème plus structurel lié à la fréquence des instructions nocives générées par ces systèmes : conseils pour se mutiler, listes de médicaments pour une surdose, lettres d'adieu rédigées.

Au-delà de ces dangers pour la santé des jeunes usagers, il semble légitime de s'interroger sur les effets à long terme des interactions quotidiennes avec des automates numériques. Comment affecteront-ils nos vies psychiques ? Comment conserver des savoirs sociaux fondamentaux comme l'écoute, l'empathie, la patience, ou encore la capacité à débattre et à argumenter, une fois acquise l'habitude d'adresser des demandes impératives à des robots conversationnels disponibles vingt-quatre heures sur vingt-quatre et sept jours sur sept, toujours de notre côté, toujours prêts à nous flatter ? Car, tant que nous disposons des ressources matérielles pour les faire fonctionner, les systèmes algorithmiques ne seront jamais fatigués, jamais malades, jamais dans le besoin d'une quelconque attention.

« Capitalisme de la solitude »

Ces robots fournissent donc des simulacres d'altérité qui suppriment les risques de l'exposition à autrui et la surprise que toute rencontre implique. L'individu qui s'entretient avec son chatbot ne rencontre personne, si ce n'est un reflet algorithmique de lui-même, généré sur la base des calculs probabilistes effectués sur ses données personnelles. Illusionné par ce reflet qui semble lui parler à la deuxième personne du singulier, il le prend alors pour un autre, confondant sa propre image avec une altérité, exactement comme Narcisse dans le mythe, qui finit par tomber amoureux de son reflet, à l'image des individus s'éprenant de leur double numérique.

À travers les chatbots ne se nouent ni une relation sociale avec un autre ni une relation réflexive avec soi-même, mais un rapport à soi confondu avec un rapport à l'autre, qui pourrait nous pousser à régresser dans un état de confusion caractérisé par l'indistinction du moi et de l'autre, du moi et du monde, des pulsions et de la réalité. Loin de constituer des alter ego, ces simulacres numériques dénient toute possibilité de séparation, donc de relation. L'économie de l'attachement menace ainsi la possibilité même de se relier, les liens sociaux étant peu à peu supplantés par une dépendance affective à des services numériques contrôlés par des entreprises privées, auxquels des publicités ciblées sont désormais intégrées (8). Alors que l'isolement est désormais reconnu comme un problème de santé publique (9), ce « capitalisme de la solitude (10) » pourrait bien engendrer une prolétarisation sociale généralisée.

Face à une telle situation, les intuitions de Weizenbaum méritent sans doute d'être remises au goût du jour. Plusieurs propositions politiques vont dans ce sens. Par exemple, l'idée de désanthropomorphiser les chatbots, en évitant la première personne du singulier, les relances ou les flatteries (11). Une telle décision semblerait conforme aux règlements européens comme le Digital Services Act, dont l'article 25 interdit les interfaces trompeuses (dark patterns), ou comme l'AI Act, dont l'article 5 proscrit les systèmes d'IA qui déploient des techniques subliminales ou manipulatrices. On pourrait aussi envisager un changement de modèle plus profond, valorisant les technologies contributives qui soutiennent les relations d'entraide ou de solidarité, le partage des savoirs entre pairs ou la constitution de groupes capacitants (12). Ces technologies existent, mais leur généralisation nécessite un soutien politique, de nouveaux droits collectifs et de nouveaux modèles économiques. Le destin numérique de nos liens affectifs en dépend.