Module 2 - Apprentissage automatique on INF1901 - Initiation à l'IA : concepts et réflexions

Le problème

Mon, 01 Jan 0001 00:00:00 +0000

Le problème

Quand vous regardez votre téléphone, il se déverrouille. Un courriel arrive et il est classé automatiquement dans les indésirables. Sur une chaîne de montage, une caméra repère, parmi des milliers de téléviseurs presque identiques, celui dont l’écran présente un défaut à peine visible. Une application vous suggère un film qui correspond à ce que vous aviez envie de voir ce soir.

Ces tâches font partie du quotidien. Elles ont cependant un point commun : personne ne sait écrire, ligne par ligne, les règles qui permettraient de les accomplir. Il est très difficile de décrire, par une suite d’instructions précises, ce qui distingue votre visage de tous les autres, ou ce qui fait qu’un courriel ressemble à un pourriel. On reconnaît ces choses en un instant, mais on ne sait pas les formuler.

Le modèle le plus bête

Mon, 01 Jan 0001 00:00:00 +0000

Le modèle le plus bête

À la fin de la page « Le problème », nous avons posé une question qui peut sembler absurde : quelle est la prédiction la plus bête qu’on puisse imaginer ? Cette question mérite d’être prise au sérieux, parce que la pire réponse possible est instructive. Elle nous obligera aussi à préciser ce qu’est un modèle.

Toujours prédire la moyenne

Le pire « prédicteur » qu’on puisse concevoir est le suivant : pour n’importe quelle maison, on ignore toutes ses caractéristiques (sa superficie, son âge, son nombre de chambres) et on annonce toujours le même prix, le prix moyen de toutes les maisons de notre liste.

Regarder les données

Mon, 01 Jan 0001 00:00:00 +0000

Regarder les données

La page « Le modèle le plus bête » s’est terminée sur une exigence : pour faire mieux que la moyenne, un modèle doit tenir compte des caractéristiques d’une maison (sa superficie, son âge, son nombre de chambres). Il faut donc les lui présenter sous une forme qu’il peut manipuler.

Une machine ne « voit » ni une maison, ni une photo, ni un courriel. Elle ne manipule que des nombres. La question est donc de savoir comment transformer un objet du monde réel en nombres sans en perdre l’essentiel. Cette question, plus profonde qu’il n’y paraît, est l’objet de cette page, et elle est un préalable à tout ce qui suit.

Prédire par ressemblance

Mon, 01 Jan 0001 00:00:00 +0000

Prédire par ressemblance

La page « Regarder les données » s’est terminée sur l’idée suivante : si décrire des objets par des nombres transforme leur ressemblance en une distance, il doit exister une façon très simple de prédire. Cette façon est sans doute l’idée la plus intuitive de l’apprentissage automatique : pour deviner la réponse sur un nouveau cas, on regarde les cas connus qui lui ressemblent le plus, et on reprend leur réponse.

Un modèle qui s'entraîne

Mon, 01 Jan 0001 00:00:00 +0000

Un modèle qui s’entraîne

Le chapitre « Prédire par ressemblance » s’est terminé sur un objectif : obtenir un modèle qui ne se contente pas de mémoriser les exemples, mais qui en extrait une tendance générale, résumée en quelques paramètres, qu’on pourra ensuite appliquer sans conserver toutes les données.

Nous allons construire ce modèle. Comme nous cherchons le plus simple, nous allons faire l’opération la plus élémentaire qu’on puisse faire sur un nuage de points : y faire passer une droite.

Classer

Mon, 01 Jan 0001 00:00:00 +0000

Classer

Le chapitre « Un modèle qui s’entraîne » a présenté un modèle qui apprend vraiment : une droite, deux paramètres, une erreur à minimiser et une descente vers le creux. Ce modèle répond cependant toujours par un nombre, ici un prix. Or beaucoup de questions n’appellent pas un nombre, mais une catégorie. Par exemple, on peut se demander si un courriel est un pourriel, si une tumeur est bénigne ou maligne, ou si une photo montre un chat ou un chien. C’est la tâche de classification, déjà rencontrée au chapitre kNN. Cette fois, cependant, nous voulons un modèle qui s’entraîne.

Poser des questions : les arbres de décision

Mon, 01 Jan 0001 00:00:00 +0000

Poser des questions : les arbres de décision

Tous les modèles vus jusqu’ici raisonnent avec des nombres. kNN mesure des distances, la droite multiplie et additionne, la régression logistique et Bayes calculent des probabilités. Ces méthodes sont puissantes, mais ce n’est pas ainsi que nous prenons la plupart de nos décisions. Un médecin devant un patient ne fait pas de calcul : il pose des questions l’une après l’autre, et chaque réponse oriente la suivante. Le jeu des vingt questions fonctionne de la même façon. Un joueur pense à un objet, et l’autre doit le deviner en posant au plus vingt questions auxquelles on ne répond que par oui ou par non, comme « est-ce un animal ? » ou « est-il plus gros qu’un chat ? ». Chaque réponse réduit l’ensemble des possibilités. Le guide de dépannage à la fin d’un manuel suit le même principe : « l’appareil s’allume-t-il ? si non, est-il branché ? ». Il s’agit chaque fois d’une suite de questions à réponse oui ou non, qui se ramifie et aboutit à une conclusion.

Généraliser

Mon, 01 Jan 0001 00:00:00 +0000

Généraliser

Le chapitre « Poser des questions : les arbres de décision » s’est terminé sur un doute. Nous savons maintenant entraîner plusieurs sortes de modèles (une droite qui prédit un prix, des classificateurs qui rangent en catégories), et tous apprennent de la même façon, en rendant leur erreur la plus petite possible sur les exemples qu’on leur montre. Ce résultat ne prouve cependant rien. Ce qui compte n’est pas qu’un modèle réussisse bien sur les données passées, mais qu’il se comporte bien sur des données nouvelles.

Bien évaluer un modèle

Mon, 01 Jan 0001 00:00:00 +0000

Bien évaluer un modèle

La page « Généraliser » a posé la règle d’or : on juge un modèle sur des exemples qu’il n’a jamais vus. Cette règle est nécessaire, mais elle ne suffit pas. Un score sur le jeu de test n’a de valeur que s’il est honnête (le modèle n’a-t-il vraiment rien vu du test ?), fiable (le score dépend-il du hasard du partage entre entraînement et test ?), pertinent (mesure-t-il ce qui coûte vraiment en cas d’erreur ?) et valable (s’applique-t-il aux données qu’on rencontrera réellement ?). Les quatre sections de cette page traitent ces quatre questions. Aucune ne demande de nouveau modèle. Toutes demandent de la méthode, et c’est surtout la méthode, bien plus que le choix d’un algorithme, qui distingue un modèle qui fonctionne d’un modèle qui semble fonctionner.

Trois façons d'apprendre

Mon, 01 Jan 0001 00:00:00 +0000

Trois façons d’apprendre

Le chapitre « Bien évaluer un modèle » s’est terminé sur un constat. Tout ce que nous avons construit dans ce module (régression, classification, la droite, Bayes) appartient à une seule famille, l’apprentissage supervisé, dans laquelle chaque exemple est accompagné de sa bonne réponse. Nous avons aussi vu que ce n’est pas la seule façon d’apprendre.

Les grandes familles de l’apprentissage automatique se distinguent par la nature du signal que le modèle utilise, c’est-à-dire ce qui, dans les données, lui sert de guide. Il en existe trois grands types :

Travail noté 2

Mon, 01 Jan 0001 00:00:00 +0000

Classification naïve bayésienne pour détecter les pourriels (travail noté 2)

La classification naïve bayésienne est un algorithme d’apprentissage supervisé qui repose sur les probabilités. Nous avons vu deux variantes de cet algorithme :

La classification de courriels est un problème classique qu’on peut traiter avec cet algorithme. On cherche à estimer la probabilité qu’un courriel soit un pourriel (spam) à partir des mots qu’il contient, parce que certains mots sont plus souvent utilisés dans les pourriels et d’autres dans les courriels.