Module 3 - Réseaux de neurones et apprentissage profond on INF1901 - Initiation à l'IA : concepts et réflexions

Un neurone

Mon, 01 Jan 0001 00:00:00 +0000

Un neurone

Le chapitre « Deux paris rivaux » a présenté le perceptron de Frank Rosenblatt (1958), une machine qui apprend à partir d’exemples au lieu de suivre des règles écrites à la main. Le chapitre « Les hivers et la bascule » a montré comment cette approche a été mise de côté après 1969, quand Minsky et Papert ont démontré qu’un perceptron ne peut pas apprendre certaines fonctions simples, comme le XOR.

Une couche cachée

Mon, 01 Jan 0001 00:00:00 +0000

Une couche cachée

Le chapitre « Un neurone » s’est terminé sur une limite : un neurone seul ne trace qu’une frontière droite, et il ne peut donc pas apprendre le XOR. Ce chapitre montre comment quelques neurones reliés entre eux dépassent cette limite.

Relier des neurones

La sortie d’un neurone est un nombre. Rien n’empêche de donner ce nombre en entrée à un autre neurone. On obtient alors un réseau de neurones, organisé en couches (layers) :

Entraîner un réseau

Mon, 01 Jan 0001 00:00:00 +0000

Entraîner un réseau

Le chapitre « Une couche cachée » s’est terminé sur un réseau de près de 24 000 poids, que personne ne peut régler à la main. Ce chapitre explique comment un réseau règle lui-même ses poids, à partir d’exemples.

Le même principe qu’au Module 2

La méthode a déjà été présentée dans « Apprendre, c’est descendre la pente ». Elle tient en trois étapes, qu’on répète :

on mesure l’erreur du modèle sur des exemples dont on connaît la bonne réponse ;
on cherche dans quel sens modifier chaque paramètre pour que l’erreur diminue ;
on modifie un peu chaque paramètre dans ce sens.

C’est la descente de gradient. Pour la droite du Module 2, il y avait deux paramètres, et l’erreur formait un paysage qu’on pouvait dessiner. Pour un réseau, les paramètres sont les poids et les biais. Le paysage a alors des milliers de dimensions et on ne peut plus le dessiner, mais la méthode reste la même : mesurer la pente, puis faire un pas vers le bas.

L'apprentissage profond

Mon, 01 Jan 0001 00:00:00 +0000

L’apprentissage profond

D’après le théorème d’approximation universelle, une seule couche cachée suffit pour approcher presque n’importe quelle fonction. Pourtant, les réseaux qui ont transformé l’IA à partir de 2012 comptent des dizaines de couches. On les appelle des réseaux profonds, et leur entraînement, l’apprentissage profond (deep learning en anglais). Ce chapitre explique ce qu’on gagne à empiler les couches, et pourquoi cela n’a fonctionné qu’à partir de 2012.

Large ou profond

Le théorème dit qu’une couche suffit. Il ne dit pas combien de neurones elle doit contenir. Pour certains problèmes, ce nombre est si grand que le réseau ne peut être ni stocké ni entraîné.

Le matériel et les outils

Mon, 01 Jan 0001 00:00:00 +0000

Le matériel et les outils

Le chapitre « L’apprentissage profond » a nommé trois conditions du succès de 2012 : une meilleure fonction d’activation, des données, et du calcul. Ce chapitre revient sur la troisième. Deux progrès techniques ont rendu l’apprentissage profond (deep learning) praticable : des processeurs capables de faire les calculs, et des bibliothèques logicielles qui écrivent la rétropropagation à la place du programmeur.

Les processeurs graphiques

Un réseau de neurones répète toujours le même calcul : multiplier des entrées par des poids et additionner les résultats, pour chaque neurone, des millions de fois. Ces calculs sont indépendants les uns des autres, et peuvent donc être faits en même temps.

Voir : les réseaux convolutifs

Mon, 01 Jan 0001 00:00:00 +0000

Voir : les réseaux convolutifs

Le réseau des chiffres du chapitre « Une couche cachée » reçoit les 784 pixels d’une image comme une simple liste de nombres. Il ne sait pas que ces pixels forment une grille, ni que deux pixels voisins sont liés. Ce chapitre présente une forme de réseau qui tient compte de la disposition des pixels, le réseau convolutif.

Ce réseau est fait des mêmes briques que le perceptron multicouche : des neurones, des poids, la même rétropropagation. Seule change son architecture, c’est-à-dire la façon dont ses neurones sont reliés. Chaque neurone n’y regarde qu’un petit voisinage de l’image, et les mêmes poids servent partout. Ce choix traduit une hypothèse sur les données : dans une image, ce qui compte est d’abord local, et une même forme peut apparaître n’importe où. Une hypothèse de ce genre, inscrite dans l’architecture avant tout apprentissage, s’appelle un biais inductif (inductive bias). Comme le biais du Module 2, il restreint ce que le réseau peut apprendre. S’il est juste, il lui permet d’apprendre avec beaucoup moins d’exemples.

Lire une séquence : les réseaux récurrents

Mon, 01 Jan 0001 00:00:00 +0000

Lire une séquence : les réseaux récurrents

Une image a une taille fixe, et tous ses pixels sont disponibles en même temps. Beaucoup de données n’ont pas cette forme. Une phrase, un enregistrement de parole, un morceau de musique ou le tracé d’un stylo sur une tablette arrivent élément par élément. Leur longueur varie, et l’ordre de leurs éléments compte. On appelle ces données des séquences. Ce chapitre présente les réseaux conçus pour les traiter, les réseaux récurrents (recurrent neural networks, RNN).

L'attention et le Transformer

Mon, 01 Jan 0001 00:00:00 +0000

L’attention et le Transformer

Le chapitre « Lire une séquence » s’est terminé sur trois limites des réseaux récurrents (recurrent neural networks, RNN) : toute une phrase passe par un seul état, le calcul avance une étape à la fois, et les éléments lointains s’oublient. Ce chapitre présente le mécanisme qui a levé ces limites, l’attention, puis l’architecture construite autour de lui, le Transformer. Il traite le Transformer comme une architecture, au même titre que les réseaux convolutifs ou récurrents. Ce qu’il permet de faire avec le langage est le sujet du Module 4.

Apprendre à jouer : le renforcement profond

Mon, 01 Jan 0001 00:00:00 +0000

Apprendre à jouer : le renforcement profond

Au Module 2, un agent apprenait à sortir d’une petite grille par essais et erreurs. Il remplissait une table, avec une valeur pour chaque case, et la récompense finale se propageait peu à peu vers les cases de départ. Ce chapitre montre ce qui se passe quand on remplace cette table par un réseau profond, et comment cette combinaison a permis à une machine de battre les meilleurs joueurs de go.

Tromper un réseau

Mon, 01 Jan 0001 00:00:00 +0000

Tromper un réseau

Les chapitres précédents ont montré des réseaux qui reconnaissent des images, traduisent des phrases et battent les meilleurs joueurs de go. Ce dernier chapitre montre une faiblesse surprenante de ces systèmes : une modification invisible pour nous peut leur faire dire n’importe quoi. Il explique comment c’est possible, et ce que cela révèle de leur fonctionnement.

Le panda devenu gibbon

En 2014, Ian Goodfellow, Jonathon Shlens et Christian Szegedy, chez Google, publient l’exemple suivant. Un réseau convolutif (convolutional neural network, CNN) entraîné sur ImageNet reconnaît un panda, avec 58 % de confiance. Les chercheurs ajoutent à l’image une perturbation très faible, calculée avec soin. À l’œil, l’image modifiée est identique à l’originale. Le réseau y voit maintenant un gibbon, avec 99 % de confiance.

Travail noté 3

Mon, 01 Jan 0001 00:00:00 +0000

Apprivoiser un réseau de neurones (travail noté 3)

Ce travail utilise TensorFlow Playground, une application en logiciel libre que nous avons adaptée pour ce cours. Elle entraîne sous vos yeux un petit réseau de neurones à classer des points de deux couleurs, et montre à chaque instant la frontière qu’il trace.

Lire l’application

À gauche, le jeu de données. Chaque point est orange ou bleu. Le curseur « Bruit » mélange les deux groupes.

Au centre, les caractéristiques (features) données au réseau. X₁ et X₂ sont les deux coordonnées d’un point, et les autres (X₁², X₁X₂…) sont calculées à partir d’elles. À leur droite, les couches cachées (hidden layers), qu’on ajoute ou retire avec les boutons + et −.

À droite, la réponse du réseau : la couleur du fond montre la classe qu’il prédit en chaque point. La perte (loss) est l’erreur du réseau, au sens de la fonction d’erreur du Module 2. Plus elle est basse, mieux le réseau classe les points.

En haut, le bouton de lecture lance l’entraînement. Le bouton de réinitialisation, la flèche circulaire, tire de nouveaux poids de départ au hasard. Le compteur indique le nombre d’époques (epochs), au sens de « Entraîner un réseau ».

Si l’application est coupée sur votre écran, ouvrez-la en pleine page.