Une machine peut-elle penser ?

C’est la plus ancienne des questions que pose l’IA, et la première des familles de problèmes de ce module, celle des problèmes philosophiques. En 1950, Alan Turing la jugeait « trop dépourvue de sens pour mériter d’être discutée », et proposait de la remplacer par une épreuve concrète, le jeu de l’imitation présenté au Module 1. Soixante-quinze ans plus tard, des machines réussissent cette épreuve. La question de départ ne disparaît pas pour autant : elle revient, plus pressante que jamais.

Le test de Turing, réussi

Dans son article de 1950, Turing faisait une prédiction : vers l’an 2000, un interrogateur moyen n’aurait pas plus de 70 % de chances de reconnaître la machine après cinq minutes de conversation. La prédiction a mis vingt-cinq ans de plus à se réaliser, et elle a été dépassée.

Alan Turing adolescent, vers 1928. Domaine public, via Wikimedia Commons.

En mars 2025, deux chercheurs de l’Université de Californie à San Diego, Cameron Jones et Benjamin Bergen, publient les résultats d’un test de Turing dans sa forme d’origine, à trois. Près de 300 participants conversent pendant cinq minutes, en même temps, avec un humain et avec une IA, puis désignent celui qu’ils croient humain. Quand on demande à GPT-4.5 de jouer un personnage, celui d’un jeune adulte un peu introverti et familier de la culture Internet, il est pris pour l’humain dans 73 % des cas, plus souvent que les vrais humains eux-mêmes. ELIZA, le programme de 1966 présenté au Module 1, ne trompe les participants que dans 23 % des cas. Sans la consigne de jouer un personnage, GPT-4.5 tombe à 36 %. L’étude, reprise et prolongée en 2026 dans la revue PNAS avec des conversations de quinze minutes, conclut que les grands modèles de langage réussissent le test de Turing.

Turing avait aussi prédit qu’à la fin du siècle, on pourrait parler de machines qui pensent « sans s’attendre à être contredit ». Sur ce point, il s’est trompé. Jamais on n’a autant débattu de la question.

Ce que le test ne mesure pas

Les auteurs de l’étude eux-mêmes refusent d’y voir une preuve d’intelligence. Selon Cameron Jones, pour les modèles, le test de Turing est « un jeu où il faut mentir » : réussir, c’est se faire passer pour quelqu’un d’autre. Les participants jugeaient d’ailleurs moins sur le savoir ou le raisonnement que sur le ton, l’humour ou les émotions. Le test mesure la ressemblance avec un humain, et l’on sait depuis ELIZA qu’il est facile de donner l’illusion de comprendre.

Le désaccord porte en réalité sur ce que « penser » veut dire. Le Module 1 a présenté le fonctionnalisme, la thèse selon laquelle un état mental se définit par son rôle, ses causes et ses effets, et non par la matière qui le réalise. Si elle est vraie, une machine qui se comporte en tout point comme un être pensant pense, quelle que soit la matière dont elle est faite. Le philosophe Daniel Dennett, mort en 2024, défendait une version de cette idée, la posture intentionnelle (intentional stance) : on attribue des croyances et des désirs à un système, humain ou non, quand cela permet de prédire son comportement, et cette attribution est justifiée tant qu’elle prédit bien. Dennett n’en était pas pour autant rassuré. En 2023, il qualifiait les IA conversationnelles qui se font passer pour des humains de « fausses personnes » (counterfeit people), et de plus dangereux artefacts de l’histoire humaine.

La chambre chinoise

L’objection la plus célèbre au fonctionnalisme vient du philosophe américain John Searle, mort en septembre 2025. Dans un article de 1980, « Minds, Brains, and Programs », il imagine l’expérience de pensée de la chambre chinoise (Chinese room).

John Searle en 2015. Photo : FranksValli, CC BY-SA 4.0, via Wikimedia Commons.

Searle, qui ne connaît pas un mot de chinois, est enfermé dans une pièce. Par une fente, on lui glisse des questions écrites en caractères chinois. Il dispose d’un gros livre de règles, écrit en anglais, qui lui indique, pour chaque suite de caractères reçue, quelle suite renvoyer. Il applique les règles, sans rien comprendre, et glisse ses réponses par une autre fente. Si les règles sont assez bonnes, les réponses sont parfaites : de l’extérieur, la chambre semble comprendre le chinois. Pourtant, personne à l’intérieur ne le comprend.

Pour Searle, la personne dans la chambre fait exactement ce que fait un ordinateur : elle manipule des symboles selon leur forme, en suivant un programme. Elle ne comprend pourtant rien. Aucun programme ne peut donc, par lui-même, produire de la compréhension. Il résume l’argument par une formule : la syntaxe ne suffit pas à la sémantique. On retrouve les niveaux du langage présentés au Module 1, avec le sens comme angle mort de la machine. Searle ne prétend pas qu’une machine ne pourra jamais penser : le cerveau est lui-même une machine, biologique. Il soutient que la pensée dépend des propriétés physiques du cerveau, et non du seul programme qu’il exécute.

Les objections à Searle

L’article de 1980 a été publié avec près de trente commentaires de philosophes et de chercheurs, et le débat dure depuis. La plupart de ces commentaires sont des contre-arguments : ils cherchent à montrer que l’argument de Searle échoue, et que quelque chose, dans la chambre ou au-delà, pourrait bien comprendre le chinois. Les anglophones les appellent les replies (les réponses). Searle a répliqué à chacun. Voici les quatre principaux, suivis de sa réplique.

• L’objection du système.
  Le contre-argument : la personne ne comprend pas le chinois, mais le système entier, la personne avec son livre, ses feuilles et ses crayons, le comprend.
  La réplique de Searle : il suffit d’imaginer qu’il apprenne tout le livre par cœur et fasse les calculs de tête. Il serait alors le système entier, et ne comprendrait toujours pas le chinois.
• L’objection du robot.
  Le contre-argument : il faudrait relier la chambre au monde, par des caméras et des bras, pour que les symboles désignent des choses.
  La réplique de Searle : les images des caméras ne seraient pour lui que d’autres symboles à manipuler.
• L’objection du simulateur de cerveau.
  Le contre-argument : un programme qui reproduirait, neurone par neurone, le cerveau d’un locuteur chinois comprendrait.
  La réplique de Searle : imaginons un système de tuyaux et de robinets qui imiterait les neurones. Il ne comprendrait rien non plus.
• L’objection des autres esprits.
  Le contre-argument : nous ne savons que les autres humains comprennent qu’en observant leur comportement. Refuser cette preuve à une machine serait incohérent.
  La réplique de Searle : la question n’est pas de savoir comment on sait qu’un être comprend, mais ce qu’on lui attribue quand on dit qu’il comprend.

Beaucoup de philosophes jugent que l’objection du système n’a jamais été vraiment réfutée : notre intuition qu’« il n’y a personne qui comprend » vaut peut-être pour la personne dans la chambre, sans valoir pour l’ensemble. D’autres tiennent l’argument de Searle pour décisif. Plus de quarante ans plus tard, aucun camp n’a convaincu l’autre.

Le problème de l’ancrage

En 1990, le chercheur en sciences cognitives Stevan Harnad reformule l’objection sous la forme du problème de l’ancrage des symboles (symbol grounding problem). Imaginez que vous deviez apprendre le chinois avec, pour seul outil, un dictionnaire unilingue chinois. Chaque mot y est défini par d’autres mots chinois, qui renvoient à d’autres encore : vous tournez en rond, de définition en définition, sans jamais atteindre le sens. Pour Harnad, les symboles d’un système doivent être ancrés quelque part, dans la perception et l’action, pour avoir un sens qui leur soit propre, et non un sens emprunté à ceux qui les lisent.

Stevan Harnad en 2013. Photo : Simon Villeneuve, CC BY-SA 3.0, via Wikimedia Commons.

Un grand modèle de langage est le cas le plus pur de ce dictionnaire. Il n’a jamais rien vu, entendu, touché ni goûté : il n’a connu que des textes. Pour lui, chaque mot n’est défini que par ses relations avec d’autres mots, dans des milliards de phrases. Les plongements du Module 4 le montrent concrètement : le vecteur du mot « chat » se forme à partir de ses voisinages avec « miauler », « griffe » ou « chien », jamais à partir d’un chat. Un humain apprend le mot « chat » en voyant des chats ; un modèle de langage l’apprend en lisant ce que des humains ont écrit à leur sujet. Si le problème de Harnad se pose quelque part, c’est bien là.

La pieuvre de Bender et Koller

En 2020, les linguistes Emily Bender et Alexander Koller transposent l’objection aux modèles de langage. Deux personnes, naufragées sur deux îles, communiquent par un câble sous-marin. Une pieuvre très intelligente écoute la ligne, apprend les régularités des messages, puis coupe le câble et se fait passer pour l’une des deux. Tant que la conversation reste banale, personne ne s’en aperçoit. Mais le jour où l’une des naufragées, poursuivie par un ours, demande comment fabriquer une arme avec des bâtons, la pieuvre ne peut pas l’aider : elle n’a jamais connu que la forme des messages, jamais ce dont ils parlent. Leur conclusion est qu’un système entraîné seulement sur la forme n’a, en principe, aucun moyen d’apprendre le sens. C’est la même intuition que celle des perroquets stochastiques, publiée l’année suivante par Bender et ses coautrices.

Emily M. Bender en 2025. Photo : King of Hearts, CC BY-SA 4.0, via Wikimedia Commons.

Trois réponses sont proposées à cette objection.

• Un ancrage emprunté. Les textes ont été écrits par des humains, eux-mêmes ancrés dans le monde. Le modèle hériterait de cet ancrage de seconde main, un peu comme nous savons beaucoup de choses sur des pays où nous ne sommes jamais allés, ou sur des événements que nous n’avons pas vécus, par ce que d’autres en ont dit. Reste à savoir si un ancrage de seconde main en est encore un.
• Un ancrage par les relations causales. En 2023, les philosophes Dimitri Coelho Mollo et Raphaël Millière reformulent la question pour les modèles de langage, sous le nom de problème de l’ancrage des vecteurs (vector grounding problem). Selon eux, ce qui compte est l’ancrage de la référence : le lien entre une représentation et ce qu’elle désigne dans le monde. Ce lien n’exige pas de percevoir. Il suffit que les états internes du système soient reliés au monde par une chaîne causale, ici celle qui va des choses aux textes qui en parlent, et que l’entraînement leur ait donné la fonction de porter cette information. Ils concluent qu’un modèle de langage peut ainsi avoir des représentations ancrées, même sans images ni corps.
• Un ancrage par les sens et l’action. Les modèles récents ne lisent plus seulement du texte : ils voient, entendent et parlent, et les agents agissent sur le monde réel et en reçoivent les effets. C’est en partie ce que demandait l’objection du robot à Searle. Pour Harnad et Searle, ces images, ces sons et ces actions ne seraient pourtant que d’autres symboles, transmis à la machine sous forme de nombres.

La représentation platonicienne

En 2024, quatre chercheurs du MIT, Minyoung Huh, Brian Cheung, Tongzhou Wang et Phillip Isola, apportent au débat un élément empirique avec l’hypothèse de la représentation platonicienne (Platonic Representation Hypothesis). Le nom vient de l’allégorie de la caverne de Platon : des prisonniers, enchaînés face à une paroi, ne connaissent du monde que les ombres qui s’y projettent. Pour les auteurs, les données d’entraînement sont de telles ombres. Une photo de chat et la phrase « Un chat dort au soleil » sont deux projections différentes d’une même réalité, et des modèles assez puissants, entraînés sur l’une ou sur l’autre, finiraient par en reconstruire la même structure.

Pour le vérifier, ils comparent des modèles de vision, qui n’ont vu que des images, et des modèles de langage, qui n’ont lu que des textes. Ils leur soumettent un millier d’images tirées de Wikipédia, avec leurs légendes. Pour chaque image, ils cherchent ses plus proches voisines dans l’espace du modèle de vision, puis, pour sa légende, les plus proches voisines dans l’espace du modèle de langage, au sens des plongements du Module 4. Les deux listes se recoupent en partie, et d’autant plus que le modèle de langage est performant. Le recoupement reste modeste : le meilleur score atteint 0,16 sur un maximum de 1, et les auteurs laissent ouvert s’il faut le juger fort ou faible.

En 2025, une équipe de l’université Cornell va plus loin pour le texte seul. Son système vec2vec traduit les plongements d’un modèle de langage dans l’espace d’un autre, sans aucun exemple apparié, comme si tous partageaient une même géométrie sous-jacente. Les critiques suivent. En 2026, deux études montrent que les mesures utilisées gonflent la ressemblance, en particulier pour les grands modèles, et qu’une fois ces mesures corrigées, il reste surtout une structure grossière commune : des voisinages locaux partagés, plutôt qu’un modèle unique de la réalité. Les auteurs de la première proposent à la place une hypothèse « aristotélicienne », du nom du philosophe qui cherchait les formes dans les choses particulières plutôt que dans un monde des Idées.

Pour le problème de l’ancrage, la portée de ces résultats est précise. Ils suggèrent que les textes portent une partie de la structure du monde, assez pour qu’un modèle qui n’a jamais rien vu organise ses concepts à peu près comme un modèle qui n’a fait que voir. C’est un argument en faveur de l’ancrage emprunté, la première des trois réponses présentées plus haut. Ils ne règlent pas pour autant la question de Searle : deux systèmes peuvent partager une même structure sans que l’un ou l’autre comprenne ce dont il parle.

La chambre chinoise à l’ère des modèles de langage

Un grand modèle de langage ressemble beaucoup à la chambre de Searle : des jetons entrent, d’autres sortent, et entre les deux, il n’y a que des calculs sur des nombres. Les deux situations diffèrent pourtant sur des points qui nourrissent le débat.

• Les règles n’ont pas été écrites. Le livre de Searle était rédigé par quelqu’un qui comprenait le chinois. Les poids d’un modèle ont été appris, en prédisant le mot suivant dans d’immenses quantités de textes. Si une compréhension s’y trouve, elle n’a été empruntée à personne.
• On peut regarder dans la chambre. Les travaux sur l’interprétabilité trouvent dans les modèles des concepts, des étapes de raisonnement intermédiaires et des plans, et l’expérience sur Othello montre qu’un modèle peut se construire une représentation de son petit monde. Pour les uns, c’est une forme de compréhension. Pour Searle, ce ne serait encore que de la syntaxe, mieux organisée.
• Le sens par l’usage. Les chercheurs Steven Piantadosi et Felix Hill soutiennent en 2022 que le sens d’un mot tient en grande partie à ses relations avec les autres, à son rôle dans un réseau de concepts, ce que les plongements capturent justement. Dans cette lecture, la référence au monde n’est pas la seule source du sens.

L’auteur de ce cours propose une autre façon de poser le problème dans un court billet, « Est-ce que ChatGPT sait ce qu’est une question ? ». L’IA classique supposait qu’un système doit d’abord construire une représentation du sens d’une phrase, puis s’en servir pour répondre. Un modèle de langage semble se passer de cette étape : il répond en prédisant la suite, et ses réponses sont pourtant souvent justes. Le billet rapproche cette situation de la chambre chinoise, mais aussi des jeux de langage du philosophe Ludwig Wittgenstein, pour qui répondre à une question n’est pas une opération unique, avec une essence cachée, mais une famille d’usages qu’on apprend en participant à la vie d’une communauté. Si comprendre, c’est savoir jouer ces jeux, la question devient moins « que se passe-t-il à l’intérieur ? » que « que sait-il faire avec les mots ? ».

Ludwig Wittgenstein en 1930. Photo : Moritz Nähr, domaine public, via Wikimedia Commons.

Dans la conversation

La conversation entre Daniel Lemire et Christian Jauvin, enregistrée à l’été 2025, aborde plusieurs questions de ce chapitre.

• 23:46 Le test de Turing. Longtemps tenu pour le critère ultime de l’intelligence, il est désormais « à toutes fins pratiques » dépassé, ce qui illustre les objectifs qui se déplacent. La discussion porte aussi sur l’impression de parler à quelqu’un, qui varie selon les personnes : certaines traitent un robot conversationnel comme un compagnon, d’autres comme une intelligence « désincarnée ».
• 28:15 La philosophie de l’esprit. Les grands modèles de langage relancent des questions posées par la philosophie de l’esprit et du langage depuis plus d’un siècle.
• 46:37 Chomsky. Sa thèse d’un langage fait de règles formelles, inscrites dans le cerveau, est fortement ébranlée par des modèles qui maîtrisent la langue sans ces règles. Restent des erreurs déroutantes, comme celle du strawberry.
• 50:50 Wittgenstein. Compter, raconter une histoire, programmer : autant de jeux de langage différents. Un modèle peut en maîtriser certains bien mieux que d’autres, et écrire un programme qui compte les voyelles d’un mot plutôt que de les compter lui-même.

Noam Chomsky en 2015. Photo : Augusto Starita / Ministerio de Cultura de la Nación, CC BY-SA 2.0, via Wikimedia Commons.

Penser sans les mots

Toute cette discussion suppose que la pensée d’un modèle de langage est faite de mots. Ce n’est vrai qu’en surface, et chez l’humain aussi, le lien entre le langage et la pensée est plus lâche qu’on ne le croit. En 1975, le philosophe Jerry Fodor soutenait que nous pensons dans une « langue de la pensée », un code mental qui n’est ni le français ni l’anglais. En 2024, les chercheurs Evelina Fedorenko, Steven Piantadosi et Edward Gibson rassemblent dans la revue Nature les arguments selon lesquels le langage sert d’abord à communiquer, et non à penser. Des personnes qui ont perdu l’usage du langage à la suite d’un accident vasculaire cérébral résolvent encore des problèmes de logique et d’arithmétique, et les régions du cerveau consacrées au langage restent inactives pendant ces tâches.

Les modèles de langage présentent une dissociation semblable. Pour répondre à la question « quelle est la capitale de l’État où se trouve Dallas ? », un modèle de Claude passe intérieurement par le Texas sans jamais l’écrire, comme le montre le chapitre « Regarder à l’intérieur » du Module 4. Des modèles expérimentaux vont plus loin et raisonnent entièrement dans l’espace de leurs vecteurs, sans aucun mot, comme l’explique la section « Raisonner sans mots ? ». Si une machine pense, sa pensée n’est donc pas forcément faite de mots, pas plus que la nôtre. Les symboles que manipule la chambre de Searle ne sont peut-être pas le bon endroit où chercher la pensée, ni chez la machine, ni chez nous.

Un débat ouvert

Les chercheurs eux-mêmes sont partagés, presque à parts égales. En 2022, avant même ChatGPT, un sondage auprès de plus de 300 chercheurs en traitement de la langue leur demande si un modèle entraîné seulement sur du texte pourrait, avec assez de données et de calcul, comprendre la langue « en un sens non trivial ». 51 % répondent oui, 49 % non. En 2023, Melanie Mitchell et David Krakauer, de l’Institut de Santa Fe, concluent leur revue du débat en suggérant que ces modèles comprennent peut-être d’une autre façon que nous, avec d’autres forces et d’autres limites, et qu’il faudrait une nouvelle science de l’intelligence pour comparer ces formes de compréhension.

Melanie Mitchell en 2025. Photo : Xuthoria, CC BY-SA 4.0, via Wikimedia Commons.

Les positions se répartissent à peu près ainsi.

Ces positions ne s’opposent pas seulement sur les faits, comme ce que contiennent les modèles, mais aussi sur les concepts, sur ce que l’on accepte d’appeler comprendre. Douglas Hofstadter, qui jugeait les machines très loin de la pensée humaine, déclarait en 2023 que les progrès des modèles de langage avaient ébranlé ses convictions, comme le rappelle le chapitre « Ce que les LLM comprennent, et ce qu’ils ratent ». Penser et comprendre ne sont d’ailleurs pas les seules capacités en jeu. Une autre objection, plus ancienne encore, soutient que l’esprit humain dépasse par principe tout calcul : celle que Roger Penrose a tirée du théorème de Gödel, présentée au chapitre « Penser, est-ce calculer ? ».