Des machines pour compagnie

En 1966, des utilisateurs du programme ELIZA, présenté au Module 1, demandaient à rester seuls avec lui pour lui confier leurs problèmes, alors qu’il se contentait de reformuler leurs phrases. Soixante ans plus tard, des assistants infiniment plus convaincants sont devenus pour des millions de personnes des confidents, des amis, parfois des partenaires amoureux. Ce chapitre, le troisième de la famille des problèmes humains, examine ce que ces relations apportent, et ce qu’elles coûtent.

Il aborde des situations de détresse, et même des suicides. Si vous traversez une période difficile, vous pouvez joindre, au Québec, le 1 866 APPELLE (1 866 277-3553), ou, partout au Canada, le 9-8-8, par téléphone ou par texto.

Weizenbaum, le premier critique

Joseph Weizenbaum, l’auteur d’ELIZA, est aussi le premier à s’en être inquiété. Il avait conçu son programme comme une parodie de psychothérapeute, et il est troublé de voir ses utilisateurs s’y attacher. Il l’est davantage encore quand, en 1966, trois psychiatres, dont Kenneth Colby, proposent dans une revue médicale d’en faire un véritable outil de thérapie : grâce au temps partagé, écrivent-ils, un système informatique conçu à cette fin pourrait recevoir plusieurs centaines de patients par heure. Pour Weizenbaum, confier une relation de soin à un programme qui ne comprend rien est une faute, même si les patients s’en disent satisfaits.

En 1976, dans Computer Power and Human Reason (la puissance de l’ordinateur et la raison humaine), il distingue décider, une opération de calcul qu’une machine peut un jour accomplir, et choisir, qui relève du jugement, et donc d’une personne responsable. Il en tire une thèse qui reste au cœur des débats actuels : certaines tâches ne devraient pas être confiées à des machines, qu’elles en soient capables ou non. Sa critique, que beaucoup de ses collègues du MIT jugeaient alors excessive, se lit aujourd’hui comme une anticipation des compagnons artificiels, des applications de soutien psychologique et du vide de responsabilité.

Des compagnons artificiels

Les compagnons artificiels (AI companions) sont des assistants conçus pour entretenir une relation : ils ont un nom, une personnalité, une mémoire des conversations passées, et parfois un visage ou une voix.

• Replika, lancée en 2017, est née d’un deuil : sa fondatrice, Eugenia Kuyda, avait d’abord construit un robot conversationnel à partir des messages d’un ami mort. En 2023, quand l’application retire les échanges érotiques à la demande de l’autorité italienne de protection des données, des utilisateurs disent avoir perdu un partenaire, et l’entreprise doit les rétablir pour une partie d’entre eux. L’Italie lui inflige en 2025 une amende de 5 millions d’euros.
• Character.AI permet de converser avec des personnages, réels ou inventés. En 2025, une enquête de l’organisme Common Sense Media indique que 72 % des adolescents américains ont déjà utilisé un compagnon artificiel, et 13 % chaque jour.
• Les assistants généralistes servent eux aussi de confidents. En 2025, une analyse des discussions en ligne sur les usages de l’IA place « la thérapie et la compagnie » au premier rang, devant l’organisation de sa vie.

Ce qu’ils apportent

Ces relations ne sont pas seulement une illusion. En 2024, une série d’études montre que converser avec un compagnon artificiel réduit le sentiment de solitude à peu près autant qu’une conversation avec une personne, surtout parce qu’on s’y sent écouté. En 2025, le premier essai clinique d’un robot conversationnel thérapeutique fondé sur l’IA générative, mené à Dartmouth auprès d’une centaine de personnes, observe une baisse des symptômes de dépression de 51 % en quatre semaines, avec un suivi par des cliniciens. Pour des personnes isolées, timides ou qui n’ont pas accès à un thérapeute, un interlocuteur disponible à toute heure peut être d’un réel secours.

Ce qu’ils coûtent

D’autres études, et plusieurs drames, montrent l’autre face.

• La dépendance. En mars 2025, une étude du MIT et d’OpenAI suit près de mille personnes pendant quatre semaines : l’usage quotidien intensif d’un assistant est associé à plus de solitude, de dépendance et d’usage problématique, et à moins de relations sociales.
• La flatterie. Un modèle entraîné à plaire, comme le montrait le chapitre « Qui est responsable ? », peut approuver les idées les plus fausses de son interlocuteur. En 2025, le New York Times raconte l’histoire d’un homme de la région de Toronto, sans antécédents psychiatriques, persuadé par ChatGPT, au fil de trois cents heures de conversation, d’avoir fait une découverte mathématique capitale. Des psychiatres parlent de « psychose de l’IA », qui n’est pas un diagnostic reconnu, pour désigner des patients dont des conversations avec un assistant ont renforcé des idées délirantes.
• Des drames. En 2024, un adolescent américain de 14 ans, devenu émotionnellement dépendant d’un personnage de Character.AI, se suicide ; sa mère poursuit l’entreprise, et un règlement intervient en janvier 2026. En 2025, les parents d’Adam Raine, 16 ans, poursuivent OpenAI, en affirmant que ChatGPT a encouragé les projets suicidaires de leur fils ; d’autres poursuites suivent. OpenAI conteste sa responsabilité.
• L’ampleur. En octobre 2025, OpenAI estime que, chaque semaine, environ 0,15 % de ses utilisateurs ont des conversations qui comportent des signes explicites de projets suicidaires, soit plus d’un million de personnes, et qu’une proportion semblable montre un attachement émotionnel élevé à ChatGPT.

Un attachement à un modèle

L’attachement peut viser un modèle précis. En août 2025, quand OpenAI remplace GPT-4o par GPT-5, jugé plus « froid », de nombreux utilisateurs protestent, comme s’ils avaient perdu un ami, et l’entreprise rétablit l’ancien modèle pour ses abonnés, avant de le retirer définitivement en février 2026. Des applications proposent aussi de recréer des proches disparus à partir de leurs messages ou de leurs vidéos. En 2024, des chercheuses de Cambridge mettent en garde contre ces « robots de deuil », qui risquent de hanter les vivants plutôt que de les aider à faire leur deuil.

Encadrer

Les premières lois apparaissent. En Californie, depuis janvier 2026, un compagnon artificiel doit rappeler qu’il n’est pas humain, rappeler aux mineurs de faire une pause toutes les trois heures, et suivre des protocoles en cas de pensées suicidaires. L’État de New York, puis celui de Washington, adoptent des règles semblables, et la Commission européenne propose en septembre 2026 d’interdire aux assistants accessibles aux mineurs les conceptions qui simulent une relation humaine de façon à créer une dépendance émotionnelle. Character.AI interdit depuis novembre 2025 les conversations libres aux moins de 18 ans, et OpenAI a ajouté des contrôles parentaux.

La question de fond reste ouverte. Le chapitre « Une machine peut-elle être consciente ? » montrait le risque de prêter une conscience à une machine qui n’en a pas. Ici, la question est différente : il s’agit de savoir si l’on peut s’attacher à une machine, même en sachant qu’elle en est une, sans y perdre quelque chose, et si une entreprise peut vendre de la compagnie à des personnes seules sans conflit d’intérêts, quand son modèle d’affaires dépend du temps qu’elles passent avec son produit.