Accueil on INF1901 - Initiation à l'IA : concepts et réflexions

Générer : imiter une distribution

Mon, 01 Jan 0001 00:00:00 +0000

Générer : imiter une distribution

Les quatre visages ci-dessus ont l’air de photos. Pourtant, aucune de ces personnes n’existe. Chaque image a été produite par un réseau de neurones, StyleGAN, présenté en 2019 par des chercheurs de l’entreprise Nvidia. Le site This Person Does Not Exist (« cette personne n’existe pas ») en affiche un nouveau à chaque visite.

Le problème

Mon, 01 Jan 0001 00:00:00 +0000

Le problème

Quand vous regardez votre téléphone, il se déverrouille. Un courriel arrive et il est classé automatiquement dans les indésirables. Sur une chaîne de montage, une caméra repère, parmi des milliers de téléviseurs presque identiques, celui dont l’écran présente un défaut à peine visible. Une application vous suggère un film qui correspond à ce que vous aviez envie de voir ce soir.

Ces tâches font partie du quotidien. Elles ont cependant un point commun : personne ne sait écrire, ligne par ligne, les règles qui permettraient de les accomplir. Il est très difficile de décrire, par une suite d’instructions précises, ce qui distingue votre visage de tous les autres, ou ce qui fait qu’un courriel ressemble à un pourriel. On reconnaît ces choses en un instant, mais on ne sait pas les formuler.

Présentation du cours

Mon, 01 Jan 0001 00:00:00 +0000

« Toute technologie suffisamment avancée est indiscernable de la magie. »

Arthur C. Clarke

Présentation du cours

L’intelligence artificielle est passée en quelques années des laboratoires à la vie de tous les jours. Des assistants conversationnels rédigent, traduisent et programment, des modèles démontrent des théorèmes, des agents agissent sur le Web, et les débats sur l’emploi, la création, l’environnement ou les risques de l’IA occupent l’actualité. Ce cours propose de comprendre comment ces systèmes fonctionnent, d’où ils viennent, et quels problèmes ils posent.

Quels problèmes l'IA pose-t-elle ?

Mon, 01 Jan 0001 00:00:00 +0000

Quels problèmes l’IA pose-t-elle ?

Les quatre premiers modules ont expliqué comment fonctionnent les systèmes d’IA : les règles et la recherche de l’IA classique, l’apprentissage à partir de données, les réseaux de neurones, puis les modèles qui génèrent du texte et des images. Ce dernier module change de question. Il ne demande plus comment ces systèmes fonctionnent, mais quels problèmes ils posent.

La question n’a rien d’abstrait. En février 2026, OpenAI annonce que ChatGPT compte plus de 900 millions d’utilisateurs chaque semaine. Au même moment, l’inquiétude grandit. En juin 2026, 52 % des Américains se disent plus inquiets qu’enthousiastes devant l’IA, contre 37 % en 2021, et environ un sur dix seulement se dit plus enthousiaste qu’inquiet. Au Canada, en août 2025, deux personnes sur trois jugent « effrayante » la perspective de l’IA dans leur vie. Beaucoup de gens s’en servent tous les jours, et s’en inquiètent en même temps.

Turing et la question fondatrice (1950)

Mon, 01 Jan 0001 00:00:00 +0000

Turing et la question fondatrice (1950)

Alan Turing adolescent, vers 1928. Domaine public — Wikimedia Commons.

Le moment

En 1950, peu après la fin de la Seconde Guerre mondiale, le mathématicien britannique Alan Turing publie un article intitulé Computing Machinery and Intelligence. L’article commence par une question qui occupera tout un domaine pendant les décennies suivantes :

Un neurone

Mon, 01 Jan 0001 00:00:00 +0000

Un neurone

Le chapitre « Deux paris rivaux » a présenté le perceptron de Frank Rosenblatt (1958), une machine qui apprend à partir d’exemples au lieu de suivre des règles écrites à la main. Le chapitre « Les hivers et la bascule » a montré comment cette approche a été mise de côté après 1969, quand Minsky et Papert ont démontré qu’un perceptron ne peut pas apprendre certaines fonctions simples, comme le XOR.

Télécharger le cours en livre

Mon, 01 Jan 0001 00:00:00 +0000

Télécharger le cours en livre

Le contenu publié du cours est aussi offert sous forme de deux livres, pour une lecture hors ligne, sur papier ou sur liseuse. Ils sont produits automatiquement à chaque mise à jour du site, et contiennent donc toujours la même version que les pages en ligne. La date de production figure sur la page de titre.

Livre PDF : un livre mis en page, avec une table des matières et des liens internes, pour l’écran ou l’impression.
Livre EPUB : un livre numérique dont le texte s’adapte à l’écran, pour une liseuse ou une application de lecture.

Les applets interactives et les vidéos ne peuvent pas être intégrées à ces livres. Elles y sont remplacées par un lien vers la page du site où elles se trouvent.

Approche pédagogique du cours

Mon, 01 Jan 0001 00:00:00 +0000

« Le vrai problème de l’humanité est le suivant : nous avons des émotions paléolithiques, des institutions médiévales, et une technologie digne des dieux. »

E.O. Wilson

Approche pédagogique du cours

L’apprentissage automatique (AA) est un sujet complexe et fortement dynamique, au confluent de plusieurs disciplines : mathématiques, informatique, sciences cognitives. Les fondements de la discipline sont résolument mathématiques, principalement avec l’algèbre linéaire et les probabilités (qui entretiennent elles-mêmes des liens très étroits).

Deux paris rivaux (1956-1958)

Mon, 01 Jan 0001 00:00:00 +0000

Deux paris rivaux (1956-1958)

Le moment : l’été 1956 à Dartmouth

À l’été 1956, un petit groupe de chercheurs se réunit pendant deux mois sur le campus du Dartmouth College, dans le New Hampshire, pour un atelier qui est considéré comme l’acte de naissance de la discipline. L’expression « intelligence artificielle » apparaît pour la première fois dans la proposition de financement de cet atelier, rédigée l’année précédente par le jeune mathématicien John McCarthy. Le mot est choisi en partie pour marquer une rupture avec une étiquette alors dominante, la cybernétique.

Le modèle le plus bête

Mon, 01 Jan 0001 00:00:00 +0000

Le modèle le plus bête

À la fin de la page « Le problème », nous avons posé une question qui peut sembler absurde : quelle est la prédiction la plus bête qu’on puisse imaginer ? Cette question mérite d’être prise au sérieux, parce que la pire réponse possible est instructive. Elle nous obligera aussi à préciser ce qu’est un modèle.

Toujours prédire la moyenne

Le pire « prédicteur » qu’on puisse concevoir est le suivant : pour n’importe quelle maison, on ignore toutes ses caractéristiques (sa superficie, son âge, son nombre de chambres) et on annonce toujours le même prix, le prix moyen de toutes les maisons de notre liste.

Quatre façons de générer

Mon, 01 Jan 0001 00:00:00 +0000

Quatre façons de générer

Le chapitre « Générer : imiter une distribution » a posé le problème. Un modèle génératif doit apprendre la distribution de données très complexes, comme des photos de visages, puis y tirer de nouveaux exemples. Pour des images, cette distribution occupe une portion infime d’un espace immense, et on ne peut pas la décrire en additionnant des cloches.

Depuis le début des années 2010, quatre familles de méthodes ont été proposées pour résoudre ce problème. Chacune repose sur une idée différente, et chacune a produit des systèmes marquants. Ce chapitre les présente l’une après l’autre, avec leurs forces et leurs limites. Les quatre utilisent des réseaux de neurones, et toutes s’entraînent par rétropropagation, comme les réseaux du Module 3.

Une couche cachée

Mon, 01 Jan 0001 00:00:00 +0000

Une couche cachée

Le chapitre « Un neurone » s’est terminé sur une limite : un neurone seul ne trace qu’une frontière droite, et il ne peut donc pas apprendre le XOR. Ce chapitre montre comment quelques neurones reliés entre eux dépassent cette limite.

Relier des neurones

La sortie d’un neurone est un nombre. Rien n’empêche de donner ce nombre en entrée à un autre neurone. On obtient alors un réseau de neurones, organisé en couches (layers) :

Une machine peut-elle penser ?

Mon, 01 Jan 0001 00:00:00 +0000

Une machine peut-elle penser ?

C’est la plus ancienne des questions que pose l’IA, et la première des familles de problèmes de ce module, celle des problèmes philosophiques. En 1950, Alan Turing la jugeait « trop dépourvue de sens pour mériter d’être discutée », et proposait de la remplacer par une épreuve concrète, le jeu de l’imitation présenté au Module 1. Soixante-quinze ans plus tard, des machines réussissent cette épreuve. La question de départ ne disparaît pas pour autant : elle revient, plus pressante que jamais.

Penser, est-ce calculer ?

Mon, 01 Jan 0001 00:00:00 +0000

Penser, est-ce calculer ?

Le chapitre « Une machine peut-elle penser ? » demandait si une machine qui se comporte comme un être pensant comprend ce qu’elle fait. Ce chapitre pose une question plus radicale. L’IA repose depuis ses débuts sur une hypothèse, présentée au Module 1 sous le titre « La pensée comme calcul » : penser serait une forme de calcul, et une machine assez puissante pourrait donc, en principe, faire tout ce que fait un esprit. Une famille d’arguments, tirés du théorème de Gödel, soutient au contraire que l’esprit humain dépasse par principe tout calcul.

Une machine peut-elle être consciente ?

Mon, 01 Jan 0001 00:00:00 +0000

Une machine peut-elle être consciente ?

Les chapitres « Une machine peut-elle penser ? » et « Penser, est-ce calculer ? » portaient sur la pensée et la compréhension. Ce chapitre pose une question différente, et sans doute plus difficile : une machine peut-elle ressentir quelque chose ? Un système pourrait raisonner, parler et résoudre des problèmes sans rien éprouver, et un animal peut éprouver de la douleur sans savoir résoudre une équation. La conscience, au sens où l’entendent les philosophes, n’est pas l’intelligence.

Les professeurs

Mon, 01 Jan 0001 00:00:00 +0000

« Le futur est déjà là, il n’est juste pas très équitablement réparti. »

William Gibson

Les professeurs

Ce cours a été co-créé par trois professeurs de l’Université TÉLUQ.

Richard Hotte

Richard Hotte. Photo : Université TÉLUQ.

Qu'est-ce que l'intelligence ?

Mon, 01 Jan 0001 00:00:00 +0000

Qu’est-ce que l’intelligence ?

L’expression « intelligence artificielle » suppose que l’on sait ce qu’est l’intelligence. Les chapitres précédents ont montré qu’on ne s’accorde ni sur ce que signifie penser, ni sur ce qu’est la conscience. L’intelligence ne fait pas exception. Ce chapitre, le dernier de la famille des problèmes philosophiques, présente les principales façons de la définir, et montre que la question, longtemps théorique, a désormais des enjeux très concrets : des contrats de plusieurs milliards de dollars dépendent de la réponse.

Des images, des voix, des vidéos

Mon, 01 Jan 0001 00:00:00 +0000

Des images, des voix, des vidéos

Le chapitre « Quatre façons de générer » a présenté les méthodes. Celui-ci présente ce qu’elles ont produit en une dizaine d’années, type de contenu par type de contenu : les images, les voix et la musique, la vidéo, puis des domaines plus inattendus, comme la conception de protéines ou la prévision météorologique. Il se termine par les problèmes que ces contenus posent, en particulier les hypertrucages (deepfakes).

Entraîner un réseau

Mon, 01 Jan 0001 00:00:00 +0000

Entraîner un réseau

Le chapitre « Une couche cachée » s’est terminé sur un réseau de près de 24 000 poids, que personne ne peut régler à la main. Ce chapitre explique comment un réseau règle lui-même ses poids, à partir d’exemples.

Le même principe qu’au Module 2

La méthode a déjà été présentée dans « Apprendre, c’est descendre la pente ». Elle tient en trois étapes, qu’on répète :

on mesure l’erreur du modèle sur des exemples dont on connaît la bonne réponse ;
on cherche dans quel sens modifier chaque paramètre pour que l’erreur diminue ;
on modifie un peu chaque paramètre dans ce sens.

C’est la descente de gradient. Pour la droite du Module 2, il y avait deux paramètres, et l’erreur formait un paysage qu’on pouvait dessiner. Pour un réseau, les paramètres sont les poids et les biais. Le paysage a alors des milliers de dimensions et on ne peut plus le dessiner, mais la méthode reste la même : mesurer la pente, puis faire un pas vers le bas.

L'âge d'or symbolique : chercher et raisonner

Mon, 01 Jan 0001 00:00:00 +0000

L’âge d’or symbolique : chercher et raisonner

Résoudre, c’est explorer

Une fois le pari symbolique posé, il reste une question pratique : comment faire raisonner une machine ? Les pionniers de l’IA trouvent une réponse très générale, parce qu’elle s’applique à des problèmes très différents. Presque tout problème peut se reformuler comme l’exploration d’un espace de possibilités.

Prenons l’exemple d’un labyrinthe. À chaque instant, vous êtes dans une certaine position, qu’on appelle un état. À partir de cet état, quelques actions sont possibles (avancer, tourner à gauche, tourner à droite), et chacune mène à un nouvel état. L’ensemble de tous les états atteignables forme une grande arborescence, l’espace d’états (state space). Résoudre le labyrinthe revient alors à trouver un chemin dans cette arborescence, depuis l’état de départ jusqu’à l’état-but (la sortie).

L'IA au service de la science

Mon, 01 Jan 0001 00:00:00 +0000

L’IA au service de la science

Les chapitres précédents portaient sur les problèmes philosophiques que pose l’IA. Ce chapitre ouvre la deuxième famille de problèmes, les problèmes scientifiques. L’IA est d’abord un instrument de recherche, peut-être le plus puissant depuis l’ordinateur lui-même. Elle pose aussi des questions à la science : que vaut une découverte faite par une machine, et que devient la pratique scientifique quand une partie du travail lui est confiée ?

Regarder les données

Mon, 01 Jan 0001 00:00:00 +0000

Regarder les données

La page « Le modèle le plus bête » s’est terminée sur une exigence : pour faire mieux que la moyenne, un modèle doit tenir compte des caractéristiques d’une maison (sa superficie, son âge, son nombre de chambres). Il faut donc les lui présenter sous une forme qu’il peut manipuler.

Une machine ne « voit » ni une maison, ni une photo, ni un courriel. Elle ne manipule que des nombres. La question est donc de savoir comment transformer un objet du monde réel en nombres sans en perdre l’essentiel. Cette question, plus profonde qu’il n’y paraît, est l’objet de cette page, et elle est un préalable à tout ce qui suit.

Prédire sans comprendre

Mon, 01 Jan 0001 00:00:00 +0000

Prédire sans comprendre

Le chapitre « L’IA au service de la science » a montré ce que l’IA apporte à la recherche. Ce chapitre pose une question plus ancienne, que ces succès rendent pressante : que vaut une prédiction juste, si personne ne comprend pourquoi elle est juste ? La science a longtemps cherché à la fois à prédire et à expliquer. L’IA permet, de plus en plus souvent, de faire l’un sans l’autre.

Des règles aux probabilités

Mon, 01 Jan 0001 00:00:00 +0000

Des règles aux probabilités

Faire maîtriser la langue à une machine est l’un des plus vieux rêves de l’informatique. En 1950, Alan Turing propose déjà de juger l’intelligence d’une machine à sa capacité de converser : c’est le jeu de l’imitation du Module 1. La science-fiction en a fait l’un de ses thèmes favoris :

l’ordinateur HAL 9000 de 2001 : l’odyssée de l’espace (Stanley Kubrick, 1968), qui converse calmement avec les astronautes, avant de leur désobéir ;
l’ordinateur de bord de Star Trek (1966), à qui l’équipage pose ses questions à voix haute ;
le robot C-3PO de La Guerre des étoiles (1977), qui parle des millions de langues ;
Samantha, l’assistante vocale dont s’éprend le héros de Her (Spike Jonze, 2013).

Le rêve de comprendre toutes les langues est plus ancien encore. Il remonte au récit de la tour de Babel, et la science-fiction l’a repris avec le « poisson de Babel » du Guide du voyageur galactique (Douglas Adams, 1979) : glissé dans l’oreille, il traduit instantanément tout ce qu’on entend.

L'apprentissage profond

Mon, 01 Jan 0001 00:00:00 +0000

L’apprentissage profond

D’après le théorème d’approximation universelle, une seule couche cachée suffit pour approcher presque n’importe quelle fonction. Pourtant, les réseaux qui ont transformé l’IA à partir de 2012 comptent des dizaines de couches. On les appelle des réseaux profonds, et leur entraînement, l’apprentissage profond (deep learning en anglais). Ce chapitre explique ce qu’on gagne à empiler les couches, et pourquoi cela n’a fonctionné qu’à partir de 2012.

Large ou profond

Le théorème dit qu’une couche suffit. Il ne dit pas combien de neurones elle doit contenir. Pour certains problèmes, ce nombre est si grand que le réseau ne peut être ni stocké ni entraîné.

Prédire par ressemblance

Mon, 01 Jan 0001 00:00:00 +0000

Prédire par ressemblance

La page « Regarder les données » s’est terminée sur l’idée suivante : si décrire des objets par des nombres transforme leur ressemblance en une distance, il doit exister une façon très simple de prédire. Cette façon est sans doute l’idée la plus intuitive de l’apprentissage automatique : pour deviner la réponse sur un nouveau cas, on regarde les cas connus qui lui ressemblent le plus, et on reprend leur réponse.

Qui est responsable ?

Mon, 01 Jan 0001 00:00:00 +0000

Qui est responsable ?

Ce chapitre ouvre la famille des problèmes moraux. Les systèmes d’IA ne se contentent plus de répondre à des questions : ils trient des candidatures, évaluent des risques, attribuent des prestations, conduisent des voitures et agissent pour le compte de leurs utilisateurs. Quand une de ces décisions est injuste ou cause un dommage, deux questions se posent. Qu’est-ce qu’une décision juste, quand elle est prise par une machine ? Et qui doit en répondre ?

Représenter le monde

Mon, 01 Jan 0001 00:00:00 +0000

Représenter le monde

Le sens, angle mort de la machine

Les chapitres précédents ont présenté plusieurs programmes. Le Logic Theorist démontrait des théorèmes, Deep Blue gagnait aux échecs et ELIZA tenait une conversation. Tous faisaient cependant la même chose : ils manipulaient des symboles d’après leur forme, selon des règles. Par exemple, ELIZA repérait le mot « mère » sans savoir ce qu’est une mère. On parle dans ce cas du niveau de la syntaxe, qui consiste à agencer correctement des symboles sans tenir compte de leur sens.

Travaux notés

Mon, 01 Jan 0001 00:00:00 +0000

« Bien sûr. Je suis une machine, et vous êtes une machine, et nous pensons tous les deux, n’est-ce pas ? »

Claude Shannon (en réponse à la question “est-ce qu’une machine peut penser?”)

Travaux notés

Le cours sera évalué avec cinq travaux pratiques, un par module.

Module 1

Système expert à incarner : vous jouez vous-même le rôle du moteur d’inférence d’un système à base de règles si… alors…, que vous faites tourner, mettez en échec, puis corrigez. Pondération : 15% de la note finale.

Aligner sur quelles valeurs ?

Mon, 01 Jan 0001 00:00:00 +0000

Aligner sur quelles valeurs ?

Le chapitre « Qui est responsable ? » portait sur les torts que causent des systèmes d’IA. Ce chapitre remonte d’un cran : comment faire en sorte qu’un système poursuive ce que l’on veut vraiment, et qui décide de ce que l’on veut ? C’est le problème de l’alignement (alignment), qui est à la fois technique, puisqu’il faut savoir transmettre des valeurs à une machine, et moral, puisqu’il faut choisir lesquelles.

Le matériel et les outils

Mon, 01 Jan 0001 00:00:00 +0000

Le matériel et les outils

Le chapitre « L’apprentissage profond » a nommé trois conditions du succès de 2012 : une meilleure fonction d’activation, des données, et du calcul. Ce chapitre revient sur la troisième. Deux progrès techniques ont rendu l’apprentissage profond (deep learning) praticable : des processeurs capables de faire les calculs, et des bibliothèques logicielles qui écrivent la rétropropagation à la place du programmeur.

Les processeurs graphiques

Un réseau de neurones répète toujours le même calcul : multiplier des entrées par des poids et additionner les résultats, pour chaque neurone, des millions de fois. Ces calculs sont indépendants les uns des autres, et peuvent donc être faits en même temps.

Les outils statistiques

Mon, 01 Jan 0001 00:00:00 +0000

Les outils statistiques

Chapitre d’approfondissement. Ce chapitre est facultatif. Il complète l’histoire du traitement de la langue commencée au chapitre précédent, mais la suite du module et le travail noté ne supposent pas de l’avoir lu.

Le chapitre « Des règles aux probabilités » a présenté le tournant statistique du traitement de la langue, et son premier outil, le modèle de langage à n-grammes. Des années 1970 au début des années 2010, d’autres outils statistiques s’y ajoutent. Ils servent à étiqueter les mots, à transcrire la parole, à traduire, à chercher des documents. Ce chapitre en présente quatre : les modèles de Markov cachés, la traduction statistique, la représentation des documents, et les modèles qui étiquettent les mots à partir de caractéristiques choisies à la main.

Des mots aux nombres : jetons et plongements

Mon, 01 Jan 0001 00:00:00 +0000

Des mots aux nombres : jetons et plongements

Le chapitre « Les outils statistiques » s’achevait sur une limite : pour un modèle à n-grammes, « chat » et « chien » sont deux symboles sans rapport. Ce chapitre ouvre l’ère des réseaux de neurones par cette question. Le chapitre « Lire une séquence : les réseaux récurrents » du Module 3 en laissait d’ailleurs une autre de côté. Un réseau de neurones ne manipule que des nombres, alors que le texte est fait de mots. Avant qu’un modèle de langage puisse lire ou écrire une phrase, il faut donc convertir les mots en nombres.

Feuille de route

Mon, 01 Jan 0001 00:00:00 +0000

« Nous avons tendance à surestimer les effets d’une technologie à court terme et à les sous-estimer à long terme. »

Roy Amara (cette idée est appelée la “Loi d’Amara”)

Feuille de route

Prévoyez environ 9 heures de travail par semaine pendant quinze semaines. Pour la plupart d’entre vous, il est impossible de réussir ce cours en y consacrant que quelques d’heures par semaine.

Il n’y a pas de dates fixes pour la remise des travaux, mais il est recommandé de prévoir une semaine de travail pour la réalisation de chacun d’eux et de les remettre selon l’ordre de présentation du cours. Bien que chaque personne inscrite à ce cours ne progressera pas au même rythme dans son apprentissage. Cependant, nous vous suggérons de remettre vos travaux notés lors de la semaine indiquée par le tableau suivant :

Capturer l'expertise : les systèmes experts

Mon, 01 Jan 0001 00:00:00 +0000

Capturer l’expertise : les systèmes experts

Rétrécir et codifier le monde pour réussir

Le chapitre « Représenter le monde » s’est terminé sur un constat : on ne peut pas écrire le sens commun, parce qu’il n’a pas de limite. Les chercheurs des années 1970 en tirent une conclusion pratique. Si le savoir général est hors d’atteinte, il faut viser un savoir plus étroit.

L’idée est la suivante. Au lieu de chercher une intelligence générale, on choisit un seul domaine bien délimité (diagnostiquer une infection, configurer un ordinateur, prospecter un gisement minier) et on tente d’y reproduire la compétence d’un seul expert. Dans un domaine spécialisé, le savoir-faire d’un expert ressemble souvent à un grand ensemble de règles de la forme si telles conditions, alors telle conclusion. Le médecin qui raisonne « si le patient a de la fièvre et telle bactérie dans le sang, alors prescrire tel antibiotique » applique une règle. Si on recueille assez de ces règles et qu’on les inscrit dans la machine, celle-ci devrait raisonner comme l’expert, du moins dans ce domaine. C’est le principe des systèmes experts, qu’on peut résumer par la formule suivante : connaissance = règles explicites.

Google Sheets

Mon, 01 Jan 0001 00:00:00 +0000

Google Sheets

Paramètres linguistiques

Pour les travaux notés 2 et 4, nous allons utiliser le tableur en ligne Google Sheets au lieu du choix plus courant Excel, car Google Sheets est plus accessible, et le langage de ses formules est plus facile à gérer (celui d’Excel dépend de la langue et des paramètres régionaux de votre système d’exploitation). Pour éviter la confusion dans le contexte des travaux notés, nous devons tout d’abord nous assurer que la langue des fonctions et des paramètres régionaux est l’anglais :

Le travail

Mon, 01 Jan 0001 00:00:00 +0000

Le travail

Ce chapitre ouvre la famille des problèmes économiques. La question que se posent le plus de gens à propos de l’IA est sans doute celle-ci : va-t-elle prendre mon emploi ? Elle n’est pas nouvelle. Chaque vague d’automatisation, des métiers à tisser du XIXᵉ siècle aux robots industriels, l’a soulevée. Ce qui est nouveau, c’est que l’IA touche d’abord le travail intellectuel, celui des employés de bureau, des programmeurs, des traducteurs et des créateurs, qu’on croyait longtemps à l’abri.

Prédire le mot suivant

Mon, 01 Jan 0001 00:00:00 +0000

Prédire le mot suivant

Le chapitre « Quatre façons de générer » a présenté la famille des modèles autorégressifs, qui génèrent une donnée un élément après l’autre. Les grands modèles de langage en font partie. Tout ce qu’ils font, répondre à une question, traduire, résumer, écrire un programme, repose sur une seule opération, répétée des milliers de fois : prédire le jeton suivant d’un texte.

Les chapitres « Des règles aux probabilités » et « Les outils statistiques » ont présenté le modèle de langage et ses premières versions, fondées sur le comptage. Ce chapitre présente la troisième ère, celle des réseaux de neurones, jusqu’aux modèles actuels. Il s’appuie sur les jetons et les plongements présentés au chapitre « Des mots aux nombres ».

Un modèle qui s'entraîne

Mon, 01 Jan 0001 00:00:00 +0000

Un modèle qui s’entraîne

Le chapitre « Prédire par ressemblance » s’est terminé sur un objectif : obtenir un modèle qui ne se contente pas de mémoriser les exemples, mais qui en extrait une tendance générale, résumée en quelques paramètres, qu’on pourra ensuite appliquer sans conserver toutes les données.

Nous allons construire ce modèle. Comme nous cherchons le plus simple, nous allons faire l’opération la plus élémentaire qu’on puisse faire sur un nuage de points : y faire passer une droite.

Voir : les réseaux convolutifs

Mon, 01 Jan 0001 00:00:00 +0000

Voir : les réseaux convolutifs

Le réseau des chiffres du chapitre « Une couche cachée » reçoit les 784 pixels d’une image comme une simple liste de nombres. Il ne sait pas que ces pixels forment une grille, ni que deux pixels voisins sont liés. Ce chapitre présente une forme de réseau qui tient compte de la disposition des pixels, le réseau convolutif.

Ce réseau est fait des mêmes briques que le perceptron multicouche : des neurones, des poids, la même rétropropagation. Seule change son architecture, c’est-à-dire la façon dont ses neurones sont reliés. Chaque neurone n’y regarde qu’un petit voisinage de l’image, et les mêmes poids servent partout. Ce choix traduit une hypothèse sur les données : dans une image, ce qui compte est d’abord local, et une même forme peut apparaître n’importe où. Une hypothèse de ce genre, inscrite dans l’architecture avant tout apprentissage, s’appelle un biais inductif (inductive bias). Comme le biais du Module 2, il restreint ce que le réseau peut apprendre. S’il est juste, il lui permet d’apprendre avec beaucoup moins d’exemples.

La création et la propriété

Mon, 01 Jan 0001 00:00:00 +0000

La création et la propriété

Les modèles génératifs du Module 4 ont appris à écrire, à dessiner et à composer en imitant des millions d’œuvres humaines. Ce chapitre, à la frontière des problèmes économiques et juridiques, pose trois questions. A-t-on le droit d’entraîner un modèle sur des œuvres protégées ? À qui appartient ce qu’il produit ? Et que devient la création humaine quand une machine peut produire en quelques secondes une image, un texte ou une chanson ?

La richesse et le pouvoir

Mon, 01 Jan 0001 00:00:00 +0000

La richesse et le pouvoir

Le chapitre « Le travail » se terminait sur une question : qui profitera de la richesse que produit l’IA ? Ce chapitre, le dernier de la famille des problèmes économiques, la prend au sérieux. L’IA est devenue en quelques années la plus grande aventure industrielle et financière du siècle, et elle concentre à la fois des sommes, des moyens de calcul et un pouvoir sans précédent entre les mains de quelques entreprises.

Classer

Mon, 01 Jan 0001 00:00:00 +0000

Classer

Le chapitre « Un modèle qui s’entraîne » a présenté un modèle qui apprend vraiment : une droite, deux paramètres, une erreur à minimiser et une descente vers le creux. Ce modèle répond cependant toujours par un nombre, ici un prix. Or beaucoup de questions n’appellent pas un nombre, mais une catégorie. Par exemple, on peut se demander si un courriel est un pourriel, si une tumeur est bénigne ou maligne, ou si une photo montre un chat ou un chien. C’est la tâche de classification, déjà rencontrée au chapitre kNN. Cette fois, cependant, nous voulons un modèle qui s’entraîne.

La vérité et la démocratie

Mon, 01 Jan 0001 00:00:00 +0000

La vérité et la démocratie

Ce chapitre ouvre la famille des problèmes sociaux et politiques. Une démocratie suppose que les citoyens puissent s’informer, distinguer le vrai du faux et débattre sur une base commune. L’IA générative menace cette base de plusieurs façons : en fabriquant des faux plus vrais que nature, en persuadant mieux que les humains, et en transformant les canaux par lesquels nous nous informons. Elle offre aussi, parfois, des moyens de la défendre.

Les hivers et la bascule

Mon, 01 Jan 0001 00:00:00 +0000

Les hivers et la bascule

Pieter Bruegel l'Ancien, Les Chasseurs dans la neige (1565), Kunsthistorisches Museum, Vienne. Domaine public, via Wikimedia Commons.

Lire une séquence : les réseaux récurrents

Mon, 01 Jan 0001 00:00:00 +0000

Lire une séquence : les réseaux récurrents

Une image a une taille fixe, et tous ses pixels sont disponibles en même temps. Beaucoup de données n’ont pas cette forme. Une phrase, un enregistrement de parole, un morceau de musique ou le tracé d’un stylo sur une tablette arrivent élément par élément. Leur longueur varie, et l’ordre de leurs éléments compte. On appelle ces données des séquences. Ce chapitre présente les réseaux conçus pour les traiter, les réseaux récurrents (recurrent neural networks, RNN).

Passer à l'échelle

Mon, 01 Jan 0001 00:00:00 +0000

Passer à l’échelle

Le chapitre « Prédire le mot suivant » a présenté le principe des grands modèles de langage : un Transformer entraîné à prédire le jeton suivant d’un texte. Ce principe n’a presque pas changé depuis le premier GPT, en 2018. Ce qui a changé, c’est la taille : la taille des modèles, la quantité de textes sur lesquels ils sont entraînés, et la quantité de calcul consacrée à leur entraînement. Ce chapitre présente cette course à la taille, ce qu’elle a produit, et ce qu’elle coûte.

Usage de l'IA (pour ce cours)

Mon, 01 Jan 0001 00:00:00 +0000

L’usage d’assistants intelligents

Étant donné qu’il s’agit d’un cours sur l’intelligence artificielle, l’usage d’assistants intelligents (ChatGPT, Claude, Gemini, etc) est évidemment encouragé ! Ceci s’applique autant aux travaux notés qu’au reste du contenu du cours.

Par contre si vous utilisez un tel outil, nous vous conseillons de vous assurer d’avoir une compréhension viscérale des réponses qu’il fournira, et de ne pas hésiter à engager un dialogue avec l’agent, dans le but de clarifier des aspects du problème qui pourraient rester obscurs pour vous. N’oubliez pas que le but de ce cours est la construction de bons modèles mentaux pour penser à l’intelligence artificielle, et comprendre son fonctionnement, au-delà de sa surface applicative. L’agent possède déjà ces modèles mentaux, si vous avez développé les vôtres à la fin de ce cours, le but aura clairement été atteint !

La surveillance et la vie privée

Mon, 01 Jan 0001 00:00:00 +0000

La surveillance et la vie privée

L’IA a besoin de données, et elle sait en tirer ce que personne n’avait remarqué. Ces deux propriétés en font un outil de surveillance d’une puissance inédite. Ce chapitre examine trois façons dont elle touche la vie privée : la reconnaissance des visages, les données qui servent à entraîner les modèles, et ce que nous confions aux assistants.

Reconnaître les visages

Le Module 3 a présenté la reconnaissance faciale comme une application des réseaux convolutifs. Ses usages vont du déverrouillage d’un téléphone à l’identification de suspects, et posent deux problèmes distincts.

La géopolitique et la réglementation

Mon, 01 Jan 0001 00:00:00 +0000

La géopolitique et la réglementation

Les chapitres précédents ont montré que l’IA pose des problèmes de responsabilité, de travail, de propriété, de vérité et de vie privée. Ce chapitre, le dernier de la famille des problèmes sociaux et politiques, demande qui peut y répondre. Les États veulent à la fois encadrer l’IA et ne pas perdre la course qui les oppose. Ils n’ont pas fait les mêmes choix.

Une course entre deux puissances

La rivalité entre les États-Unis et la Chine structure la géopolitique de l’IA, et elle se joue d’abord sur les puces.

Poser des questions : les arbres de décision

Mon, 01 Jan 0001 00:00:00 +0000

Poser des questions : les arbres de décision

Tous les modèles vus jusqu’ici raisonnent avec des nombres. kNN mesure des distances, la droite multiplie et additionne, la régression logistique et Bayes calculent des probabilités. Ces méthodes sont puissantes, mais ce n’est pas ainsi que nous prenons la plupart de nos décisions. Un médecin devant un patient ne fait pas de calcul : il pose des questions l’une après l’autre, et chaque réponse oriente la suivante. Le jeu des vingt questions fonctionne de la même façon. Un joueur pense à un objet, et l’autre doit le deviner en posant au plus vingt questions auxquelles on ne répond que par oui ou par non, comme « est-ce un animal ? » ou « est-il plus gros qu’un chat ? ». Chaque réponse réduit l’ensemble des possibilités. Le guide de dépannage à la fin d’un manuel suit le même principe : « l’appareil s’allume-t-il ? si non, est-il branché ? ». Il s’agit chaque fois d’une suite de questions à réponse oui ou non, qui se ramifie et aboutit à une conclusion.

Du modèle à l'assistant

Mon, 01 Jan 0001 00:00:00 +0000

Du modèle à l’assistant

Le chapitre « Prédire le mot suivant » s’achevait sur une limite. Un modèle entraîné seulement à prédire le jeton suivant continue des textes, mais il ne répond pas. ChatGPT, Claude ou Gemini sont pourtant des assistants : ils suivent des consignes, refusent certaines demandes et tiennent une conversation. Ce chapitre présente les étapes qui transforment un modèle de base en assistant, le travail humain qu’elles demandent, et les modèles plus récents qui « raisonnent » avant de répondre.

Généraliser

Mon, 01 Jan 0001 00:00:00 +0000

Généraliser

Le chapitre « Poser des questions : les arbres de décision » s’est terminé sur un doute. Nous savons maintenant entraîner plusieurs sortes de modèles (une droite qui prédit un prix, des classificateurs qui rangent en catégories), et tous apprennent de la même façon, en rendant leur erreur la plus petite possible sur les exemples qu’on leur montre. Ce résultat ne prouve cependant rien. Ce qui compte n’est pas qu’un modèle réussisse bien sur les données passées, mais qu’il se comporte bien sur des données nouvelles.

L'attention et le Transformer

Mon, 01 Jan 0001 00:00:00 +0000

L’attention et le Transformer

Le chapitre « Lire une séquence » s’est terminé sur trois limites des réseaux récurrents (recurrent neural networks, RNN) : toute une phrase passe par un seul état, le calcul avance une étape à la fois, et les éléments lointains s’oublient. Ce chapitre présente le mécanisme qui a levé ces limites, l’attention, puis l’architecture construite autour de lui, le Transformer. Il traite le Transformer comme une architecture, au même titre que les réseaux convolutifs ou récurrents. Ce qu’il permet de faire avec le langage est le sujet du Module 4.

Le coût écologique de l'IA

Mon, 01 Jan 0001 00:00:00 +0000

Le coût écologique de l’IA

Une requête à un assistant semble immatérielle. Elle passe pourtant par des centres de données qui consomment de l’électricité, de l’eau et des métaux, et dont la construction s’accélère. Ce chapitre, consacré à la famille des problèmes environnementaux, cherche à mesurer ce coût, sans l’exagérer ni le minimiser, et à le comparer à ce que l’IA peut apporter à l’environnement.

La salle des serveurs du centre de calcul du CERN, à Genève, en 2009. Photo : Florian Hirzinger, CC BY-SA 3.0, via Wikimedia Commons.

Bien évaluer un modèle

Mon, 01 Jan 0001 00:00:00 +0000

Bien évaluer un modèle

La page « Généraliser » a posé la règle d’or : on juge un modèle sur des exemples qu’il n’a jamais vus. Cette règle est nécessaire, mais elle ne suffit pas. Un score sur le jeu de test n’a de valeur que s’il est honnête (le modèle n’a-t-il vraiment rien vu du test ?), fiable (le score dépend-il du hasard du partage entre entraînement et test ?), pertinent (mesure-t-il ce qui coûte vraiment en cas d’erreur ?) et valable (s’applique-t-il aux données qu’on rencontrera réellement ?). Les quatre sections de cette page traitent ces quatre questions. Aucune ne demande de nouveau modèle. Toutes demandent de la méthode, et c’est surtout la méthode, bien plus que le choix d’un algorithme, qui distingue un modèle qui fonctionne d’un modèle qui semble fonctionner.

Apprendre à jouer : le renforcement profond

Mon, 01 Jan 0001 00:00:00 +0000

Apprendre à jouer : le renforcement profond

Au Module 2, un agent apprenait à sortir d’une petite grille par essais et erreurs. Il remplissait une table, avec une valeur pour chaque case, et la récompense finale se propageait peu à peu vers les cases de départ. Ce chapitre montre ce qui se passe quand on remplace cette table par un réseau profond, et comment cette combinaison a permis à une machine de battre les meilleurs joueurs de go.

Des outils, un harnais et des agents

Mon, 01 Jan 0001 00:00:00 +0000

Des outils, un harnais et des agents

Un assistant comme ceux présentés au chapitre « Du modèle à l’assistant » ne fait que produire du texte à partir du texte qu’on lui donne. Ce fonctionnement a trois limites.

Ses connaissances sont figées. Le modèle ne connaît que ce qui figurait dans ses données d’entraînement, jusqu’à une date de coupure (knowledge cutoff). Il ignore les événements plus récents, et les documents privés d’une entreprise ou d’une personne. Le laisser apprendre en continu est plus difficile qu’il n’y paraît, comme l’explique la section « Pourquoi ne pas le laisser apprendre ? ».
Il calcule mal. Un modèle de langage prédit des jetons. Il peut écrire le résultat d’une multiplication sans l’avoir vraiment effectuée.
Il n’agit pas. Il ne peut ni consulter une page Web, ni envoyer un courriel, ni modifier un fichier.

Ce chapitre commence par expliquer ce qu’est vraiment une conversation avec un assistant, et pourquoi il n’apprend rien de ses échanges. Il présente ensuite les moyens qui ont été développés pour dépasser ces limites : bien formuler les requêtes, donner au modèle des documents à consulter, lui confier des outils. Il présente ensuite les systèmes qui enchaînent eux-mêmes les actions, en boucle, jusqu’à ce qu’une tâche soit accomplie : les agents.

Penser avec des machines

Mon, 01 Jan 0001 00:00:00 +0000

Penser avec des machines

Ce chapitre ouvre la famille des problèmes humains : ce que l’IA fait à notre façon de penser, d’apprendre et de nous lier aux autres. C’est aussi le problème de ce module qui vous concerne le plus directement, en tant qu’étudiantes et étudiants d’un cours sur l’IA, à qui des assistants proposent de faire une bonne partie du travail à leur place. Le chapitre suivant, « L’IA dans l’éducation », passe de la personne qui apprend aux institutions : l’école, l’université et les politiques qui les encadrent.

Serveur Discord

Mon, 01 Jan 0001 00:00:00 +0000

Venez discuter d’IA sur Discord !

On tente une expérience : si ça vous tente, venez discuter des idées de ce cours sur la plateforme en ligne Discord, à l’adresse suivante : https://discord.gg/QxrtkpgtRS

Venez poser des questions et discuter de questions philosophiques avec au moins un des professeurs de ce cours !

Trois façons d'apprendre

Mon, 01 Jan 0001 00:00:00 +0000

Trois façons d’apprendre

Le chapitre « Bien évaluer un modèle » s’est terminé sur un constat. Tout ce que nous avons construit dans ce module (régression, classification, la droite, Bayes) appartient à une seule famille, l’apprentissage supervisé, dans laquelle chaque exemple est accompagné de sa bonne réponse. Nous avons aussi vu que ce n’est pas la seule façon d’apprendre.

Les grandes familles de l’apprentissage automatique se distinguent par la nature du signal que le modèle utilise, c’est-à-dire ce qui, dans les données, lui sert de guide. Il en existe trois grands types :

L'IA dans l'éducation

Mon, 01 Jan 0001 00:00:00 +0000

L’IA dans l’éducation

Le chapitre « Penser avec des machines » a examiné ce que l’IA fait à la personne qui apprend. Ce chapitre, le deuxième de la famille des problèmes humains, porte sur les institutions : ce que l’IA promet à l’école et à l’université, ce qu’elle change pour les enseignants et pour l’évaluation, et la façon dont les États et les entreprises s’en emparent.

Le rêve d’un tuteur pour chacun

En 1984, le psychologue américain Benjamin Bloom publie un article devenu célèbre, « The 2 Sigma Problem » (le problème des deux sigmas). Dans les expériences qu’il rapporte, des élèves qui suivent un tutorat individuel réussissent mieux que 98 % des élèves d’une classe ordinaire, un écart de deux écarts types, que l’on note σ (sigma). Le problème est le coût : on ne peut pas donner un tuteur à chaque élève. Bloom demande donc comment obtenir le même résultat en classe.

Des machines pour compagnie

Mon, 01 Jan 0001 00:00:00 +0000

Des machines pour compagnie

En 1966, des utilisateurs du programme ELIZA, présenté au Module 1, demandaient à rester seuls avec lui pour lui confier leurs problèmes, alors qu’il se contentait de reformuler leurs phrases. Soixante ans plus tard, des assistants infiniment plus convaincants sont devenus pour des millions de personnes des confidents, des amis, parfois des partenaires amoureux. Ce chapitre, le troisième de la famille des problèmes humains, examine ce que ces relations apportent, et ce qu’elles coûtent.

Peut-on perdre le contrôle ?

Mon, 01 Jan 0001 00:00:00 +0000

Peut-on perdre le contrôle ?

Le dernier problème du module est le plus spéculatif et le plus grave. C’est la famille des risques extrêmes : la possibilité que l’IA cause une catastrophe à l’échelle de l’humanité, parce qu’on en perdrait le contrôle ou parce que quelqu’un s’en servirait pour nuire massivement. Pour certains chercheurs, c’est le risque le plus important de notre époque. Pour d’autres, c’est de la science-fiction, qui détourne l’attention des torts bien réels décrits dans les chapitres précédents.

Programmer avec des agents

Mon, 01 Jan 0001 00:00:00 +0000

Programmer avec des agents

Le chapitre « Des outils, un harnais et des agents » a présenté les agents en général : un modèle de langage, un harnais qui le fait tourner en boucle, et des outils. C’est en programmation que cette idée a donné, à ce jour, ses résultats les plus aboutis. En quelques années, on est passé d’un modèle qui complète une ligne de code à des agents qui lisent un projet entier, le modifient, lancent ses tests et corrigent leurs propres erreurs. Ce chapitre explique comment ils fonctionnent, pourquoi le code s’y prête si bien, ce qu’ils doivent à une très vieille tradition de l’informatique, celle des outils Unix, et ce qu’ils changent au métier de programmeur.

Démontrer

Mon, 01 Jan 0001 00:00:00 +0000

Démontrer

Chapitre d’approfondissement. Ce chapitre est facultatif. Il montre ce que les modèles de langage apportent aux mathématiques, mais la suite du module et le travail noté ne supposent pas de l’avoir lu.

Les chapitres précédents ont montré le rôle de la vérification : les modèles qui raisonnent sont entraînés par renforcement à partir de récompenses vérifiables, et les agents de programmation se guident sur le verdict des tests. Les mathématiques sont le terrain où cette idée va le plus loin, parce qu’une démonstration peut être vérifiée sans aucun doute possible, par un programme. Ce chapitre montre comment, en quelques années, des machines sont passées des problèmes d’olympiades aux premiers résultats de recherche, et ce que ces résultats disent, ou ne disent pas.

Le défi ARC

Mon, 01 Jan 0001 00:00:00 +0000

Le défi ARC

Chapitre d’approfondissement. Ce chapitre est facultatif. Il présente un test conçu pour mesurer l’intelligence par des tâches nouvelles, mais la suite du module et le travail noté ne supposent pas de l’avoir lu.

Les chapitres précédents ont présenté des modèles qui réussissent des examens de droit, des concours de mathématiques et des exercices de programmation. Le chapitre « Passer à l’échelle » a toutefois montré la limite de ces scores : un modèle entraîné sur une grande partie du Web a peut-être déjà vu les questions. Ce chapitre présente un test conçu pour mesurer autre chose, la capacité à faire face à du nouveau. Il s’appelle ARC, pour Abstraction and Reasoning Corpus (« corpus d’abstraction et de raisonnement »), et son histoire, de 2019 à aujourd’hui, résume bien les progrès des grands modèles de langage et ce qui leur manque encore.

Les attitudes devant l'IA

Mon, 01 Jan 0001 00:00:00 +0000

Les attitudes devant l’IA

Ce module a parcouru les neuf familles de problèmes que pose l’IA, de la pensée des machines aux risques extrêmes. D’un chapitre à l’autre, les mêmes noms, les mêmes groupes et les mêmes arguments sont revenus. Ce chapitre de synthèse les rassemble. Il ne s’agit pas de camps fermés, mais d’attitudes : des façons typiques de réagir à l’IA, qui s’expliquent en grande partie par les problèmes que chacun juge les plus importants, et par ce qu’il croit sur les faits.

Relier les mots et les images

Mon, 01 Jan 0001 00:00:00 +0000

Relier les mots et les images

Le chapitre « Des images, des voix, des vidéos » a montré des générateurs qui produisent une image à partir d’une phrase, comme « un panneau d’arrêt vole dans un ciel bleu ». Pour y parvenir, un modèle doit relier deux mondes : celui des mots et celui des pixels. Ce chapitre présente la méthode qui l’a rendu possible, l’apprentissage contrastif, et le modèle qui l’a popularisée, CLIP. Il montre ensuite comment ce lien sert à chercher des images, à les classer sans exemples, et à les générer à partir d’un texte.

Tromper un réseau

Mon, 01 Jan 0001 00:00:00 +0000

Tromper un réseau

Les chapitres précédents ont montré des réseaux qui reconnaissent des images, traduisent des phrases et battent les meilleurs joueurs de go. Ce dernier chapitre montre une faiblesse surprenante de ces systèmes : une modification invisible pour nous peut leur faire dire n’importe quoi. Il explique comment c’est possible, et ce que cela révèle de leur fonctionnement.

Le panda devenu gibbon

En 2014, Ian Goodfellow, Jonathon Shlens et Christian Szegedy, chez Google, publient l’exemple suivant. Un réseau convolutif (convolutional neural network, CNN) entraîné sur ImageNet reconnaît un panda, avec 58 % de confiance. Les chercheurs ajoutent à l’image une perturbation très faible, calculée avec soin. À l’œil, l’image modifiée est identique à l’originale. Le réseau y voit maintenant un gibbon, avec 99 % de confiance.

Des modèles qui voient, entendent et parlent

Mon, 01 Jan 0001 00:00:00 +0000

Des modèles qui voient, entendent et parlent

Le chapitre « Relier les mots et les images » a présenté CLIP, qui place images et textes dans un même espace. CLIP sait dire si une légende convient à une image, mais il ne décrit pas une image avec ses propres mots, et il ne répond pas à une question à son sujet. Depuis 2023, les grands assistants le font : on peut leur montrer une photo, un graphique ou une page manuscrite, leur parler à voix haute, et les entendre répondre. Ce chapitre présente comment un modèle de langage a appris à voir et à entendre, ce que cela permet, et ce qui lui échappe encore.

Regarder à l'intérieur

Mon, 01 Jan 0001 00:00:00 +0000

Regarder à l’intérieur : l’interprétabilité mécaniste

Les chapitres précédents ont décrit les grands modèles de langage de l’extérieur : ce qu’on leur donne, ce qu’ils produisent, et comment on les entraîne. Ce chapitre présente les efforts pour comprendre ce qui se passe à l’intérieur, pendant qu’un modèle calcule sa réponse. Le domaine s’appelle l’interprétabilité mécaniste (mechanistic interpretability). Son but est de retrouver, dans les poids d’un réseau entraîné, les mécanismes qui produisent son comportement, un peu comme on reconstituerait le code source d’un programme dont on ne possède que la version compilée.

Ce que les LLM comprennent, et ce qu'ils ratent

Mon, 01 Jan 0001 00:00:00 +0000

Ce que les LLM comprennent, et ce qu’ils ratent

Les chapitres précédents ont présenté ce que font les grands modèles de langage : prédire le jeton suivant, à une échelle immense, puis être ajustés pour répondre, raisonner, démontrer, utiliser des outils, voir et parler. Le chapitre « Le défi ARC » a montré ce qui leur résiste encore devant des problèmes nouveaux, et le chapitre « Regarder à l’intérieur » ce que les chercheurs ont découvert à l’intérieur des modèles. Ce dernier chapitre du module pose la question que ces résultats rendent inévitable : ces modèles comprennent-ils ce qu’ils disent ? Il commence par leurs erreurs les plus connues, qui renseignent sur leur fonctionnement, puis il présente les deux grandes lectures qui s’opposent. Il fait enfin le lien avec des questions posées tout au long du cours.

La conversation

Mon, 01 Jan 0001 00:00:00 +0000

La conversation

À l’été 2025, les professeurs Daniel Lemire et Christian Jauvin, du département Science et technologie de l’Université TÉLUQ, ont eu une conversation de deux heures sur l’intelligence artificielle, animée par Dolorès Grossemy. Elle passe du paradoxe de Moravec au test de Turing, des zombies philosophiques à l’alignement, de la science-fiction à l’histoire de l’IA à Montréal.

Les chapitres de ce module en citent des extraits, dans des encadrés « Dans la conversation » qui renvoient au bon moment de la vidéo. Cette page donne la vidéo complète, et son minutage regroupé selon les familles de problèmes du module. Comme toute conversation, elle est datée : certains faits qu’elle évoque ont changé depuis, et ce module les met à jour.

Travail noté 1

Mon, 01 Jan 0001 00:00:00 +0000

Vous êtes le moteur d’inférence : un système expert (travail noté 1)

Au Module 1, nous avons vu qu’avant l’apprentissage automatique (que nous commencerons à étudier en détail au module 2), la grande idée de l’IA « classique » (le GOFAI) était de capturer la connaissance dans des règles explicites. Les systèmes experts sont l’aboutissement de cette idée. Ils comportent une base de règles si… alors…, une base de faits (le cas qu’on traite) et un moteur d’inférence, qui compare les deux, déclenche les règles applicables et en tire de nouvelles conclusions, jusqu’au diagnostic final.

Travail noté 2

Mon, 01 Jan 0001 00:00:00 +0000

Classification naïve bayésienne pour détecter les pourriels (travail noté 2)

La classification naïve bayésienne est un algorithme d’apprentissage supervisé qui repose sur les probabilités. Nous avons vu deux variantes de cet algorithme :

La classification de courriels est un problème classique qu’on peut traiter avec cet algorithme. On cherche à estimer la probabilité qu’un courriel soit un pourriel (spam) à partir des mots qu’il contient, parce que certains mots sont plus souvent utilisés dans les pourriels et d’autres dans les courriels.

Travail noté 3

Mon, 01 Jan 0001 00:00:00 +0000

Apprivoiser un réseau de neurones (travail noté 3)

Ce travail utilise TensorFlow Playground, une application en logiciel libre que nous avons adaptée pour ce cours. Elle entraîne sous vos yeux un petit réseau de neurones à classer des points de deux couleurs, et montre à chaque instant la frontière qu’il trace.

Lire l’application

À gauche, le jeu de données. Chaque point est orange ou bleu. Le curseur « Bruit » mélange les deux groupes.

Au centre, les caractéristiques (features) données au réseau. X₁ et X₂ sont les deux coordonnées d’un point, et les autres (X₁², X₁X₂…) sont calculées à partir d’elles. À leur droite, les couches cachées (hidden layers), qu’on ajoute ou retire avec les boutons + et −.

À droite, la réponse du réseau : la couleur du fond montre la classe qu’il prédit en chaque point. La perte (loss) est l’erreur du réseau, au sens de la fonction d’erreur du Module 2. Plus elle est basse, mieux le réseau classe les points.

En haut, le bouton de lecture lance l’entraînement. Le bouton de réinitialisation, la flèche circulaire, tire de nouveaux poids de départ au hasard. Le compteur indique le nombre d’époques (epochs), au sens de « Entraîner un réseau ».

Si l’application est coupée sur votre écran, ouvrez-la en pleine page.

Travail noté 4

Mon, 01 Jan 0001 00:00:00 +0000

Un modèle de langage dans un tableur (travail noté 4)

Ce travail construit, dans Google Sheets, un modèle de langage miniature : un modèle à bigrammes, qui donne la probabilité de chaque mot d’après le mot qui le précède. C’est le principe des n-grammes présenté au chapitre « Des règles aux probabilités », avec n = 2. Le modèle est ensuite utilisé pour générer du texte, en tirant chaque mot au hasard selon ces probabilités, comme le font, à une tout autre échelle, les grands modèles de langage.

Travail noté 5

Mon, 01 Jan 0001 00:00:00 +0000

Une expérience sur une IA réelle (travail noté 5)

Les travaux notés précédents vous ont fait manipuler des mécanismes : un système expert, un classifieur, un réseau de neurones, un modèle de langage. Ce dernier travail porte sur un objet d’une autre taille, un assistant d’IA réel, comme ChatGPT, Claude, Gemini ou Le Chat. Vous allez faire deux choses.

Mener une petite expérience sur cet assistant, à propos d’un des problèmes présentés dans ce module, puis l’analyser avec les outils du module : distinguer les faits des valeurs, situer les positions, et prendre la vôtre.
Tenir un court journal de vos propres usages de l’IA pendant une semaine, puis en tirer quelques constats.

L’idée est de passer de « j’ai lu que l’IA a tel défaut » à « j’ai vérifié, voici ce que j’ai trouvé, et voici pourquoi ce n’est pas encore une preuve ».

Ressources supplémentaires

Mon, 01 Jan 0001 00:00:00 +0000

Pour aller plus loin

Le podcast MLST

Le podcast Machine Learning Street Talk (en anglais seulement) est un excellent mélange de discussions philosophiques, scientifiques et techniques à propos de ce qui se passe en IA :

Présentations diverses

Cette présentation (en anglais seulement) fait un excellent survol des liens profonds entre les mathématiques, la philosophie et l’intelligence artificielle :

Conclusion

Mon, 01 Jan 0001 00:00:00 +0000

Conclusion

Merci d’avoir participé à ce cours d’initiation à l’IA !

Au fil des modules, vous avez découvert les fondements de l’intelligence artificielle, ses principaux paradigmes, les réseaux de neurones, l’apprentissage automatique, l’IA générative et les grands modèles de langage. Vous avez exploré les enjeux techniques, philosophiques et éthiques qui accompagnent le développement de ces technologies.

L’IA transforme déjà de nombreux domaines : santé, éducation, industrie, arts, communication… Elle ouvre des perspectives fascinantes, mais soulève aussi des questions sur la responsabilité, la transparence et l’impact social.

Accueil on INF1901 - Initiation à l'IA : concepts et réflexions

Générer : imiter une distribution

Générer : imiter une distribution

Le problème

Le problème

Présentation du cours

Présentation du cours

Quels problèmes l'IA pose-t-elle ?

Quels problèmes l’IA pose-t-elle ?

Turing et la question fondatrice (1950)

Turing et la question fondatrice (1950)

Le moment

Un neurone

Un neurone

Télécharger le cours en livre

Télécharger le cours en livre

Approche pédagogique du cours

Approche pédagogique du cours

Deux paris rivaux (1956-1958)

Deux paris rivaux (1956-1958)

Le moment : l’été 1956 à Dartmouth

Le modèle le plus bête

Le modèle le plus bête

Toujours prédire la moyenne

Quatre façons de générer

Quatre façons de générer

Une couche cachée

Une couche cachée

Relier des neurones

Une machine peut-elle penser ?

Une machine peut-elle penser ?

Penser, est-ce calculer ?

Penser, est-ce calculer ?

Une machine peut-elle être consciente ?

Une machine peut-elle être consciente ?

Les professeurs

Les professeurs

Richard Hotte

Qu'est-ce que l'intelligence ?

Qu’est-ce que l’intelligence ?

Des images, des voix, des vidéos

Des images, des voix, des vidéos

Entraîner un réseau

Entraîner un réseau

Le même principe qu’au Module 2

L'âge d'or symbolique : chercher et raisonner

L’âge d’or symbolique : chercher et raisonner

Résoudre, c’est explorer

L'IA au service de la science

L’IA au service de la science

Regarder les données

Regarder les données

Prédire sans comprendre

Prédire sans comprendre

Des règles aux probabilités

Des règles aux probabilités

L'apprentissage profond

L’apprentissage profond

Large ou profond

Prédire par ressemblance

Prédire par ressemblance

Qui est responsable ?

Qui est responsable ?

Représenter le monde

Représenter le monde

Le sens, angle mort de la machine

Travaux notés

Travaux notés

Module 1

Aligner sur quelles valeurs ?

Aligner sur quelles valeurs ?

Le matériel et les outils

Le matériel et les outils

Les processeurs graphiques

Les outils statistiques

Les outils statistiques

Des mots aux nombres : jetons et plongements

Des mots aux nombres : jetons et plongements

Feuille de route

Feuille de route

Quels problèmes l'IA pose-t-elle ?

Quels problèmes l’IA pose-t-elle ?

Une machine peut-elle penser ?

Une machine peut-elle penser ?

Penser, est-ce calculer ?

Penser, est-ce calculer ?

Une machine peut-elle être consciente ?

Une machine peut-elle être consciente ?

Qu'est-ce que l'intelligence ?

Qu’est-ce que l’intelligence ?

Qui est responsable ?

Qui est responsable ?

Aligner sur quelles valeurs ?

Aligner sur quelles valeurs ?

Venez discuter d’IA sur Discord !

Peut-on perdre le contrôle ?

Peut-on perdre le contrôle ?