Module 3 - Réseaux de neurones et apprentissage profond #
Ce module explore l’univers fascinant des réseaux de neurones artificiels, moteurs de la révolution moderne de l’apprentissage profond. Pendant plusieurs décennies, ces réseaux étaient perçus comme des outils intéressants en théorie, mais dont l’efficacité réelle restait limitée par la puissance des ordinateurs et la difficulté à les entraîner en profondeur. Tout a changé en 2012, lorsque trois chercheurs de l’Université de Toronto — Alex Krizhevsky, Ilya Sutskever et Geoffrey Hinton — ont mis au point un modèle baptisé AlexNet. Ce réseau de neurones profond, composé de huit couches apprenant des représentations hiérarchiques des images, a été entraîné sur des cartes graphiques (GPU), alors principalement utilisées pour les jeux vidéo. Cette innovation matérielle, combinée à des idées nouvelles comme la fonction d’activation ReLU et la technique de dropout (pour éviter le surapprentissage), a permis à AlexNet d’accomplir un exploit spectaculaire : réduire de moitié le taux d’erreur lors du concours international ImageNet, qui consistait à reconnaître et classifier plus d’un million d’images en mille catégories. Ce résultat, jusque-là inimaginable, a marqué un véritable point de bascule : en quelques mois, toute la communauté scientifique a compris qu’il était possible d’atteindre des performances inégalées grâce aux réseaux de neurones profonds, déclenchant une explosion de recherches, d’applications commerciales et de nouvelles architectures qui allaient bouleverser non seulement la vision par ordinateur, mais aussi le traitement automatique du langage, la reconnaissance vocale et bien d’autres domaines. Ce module vous guidera dans la découverte de ce tournant historique et des concepts fondamentaux qui l’ont rendu possible.
But et objectifs #
Ce module vise à :
- Comprendre le fonctionnement des réseaux de neurones artificiels et leur rôle dans l’apprentissage profond.
- Explorer les concepts fondamentaux : neurones, couches, fonctions d’activation, propagation avant et rétropropagation.
- Découvrir l’impact historique d’AlexNet et des avancées récentes en vision par ordinateur et traitement du langage.
- S’initier à l’interprétation visuelle et intuitive des réseaux de neurones grâce à des ressources pédagogiques (ex. : vidéo 3Blue1Brown).
- Expérimenter concrètement avec des outils interactifs pour mieux saisir les mécanismes d’apprentissage.
Durée #
Trois semaines ou 27 heures.
Évaluation #
L’évaluation de ce module repose sur un travail noté où vous devrez manipuler un réseau de neurones via une application interactive (Tensorflow Playground), répondre à des questions d’interprétation et remettre un fichier PDF.