Lien Mattermost : https://channel.isir.upmc.fr/signup_user_complete/?id=hi7d5wjd1f8stfp9bhpwdytxgc&md=link&sbr=su
(chan ML)
Planning MLL
Cours : 1) 17/01, 2) 24/01, 3) 14/02, 4) 28/02, 5) 13/03
TD/TME : 1) 24/01, 2) 7/02, 3) 28/02, 4) 20/03, 5) 27/03
Cours
- Cours 1 (ML et MLL) : Intro, Classification Bayésienne, Estimation de densité
- Cours 2 (ML et MLL) : Modèles linéaires, descente de gradient, perceptron
- Cours 3 (ML) : Réseau de neurones (I)
- Cours 4 (ML) : Réseau de neurones (II)
- Cours 5 (ML et MLL) : SVMs, noyaux
- Cours 6 (ML et MLL) : Théorie de l’apprentissage, Ensemble Learning
- Cours 7 (ML et MLL) : Apprentissage non supervisé
- Cours 8 (ML) : RL
- Cours 9 (ML) : Systèmes de recommandation
- Cours 10 (ML): Processus Gaussien
Projet (ML) : Enoncé, squelette
TDs
- TD 1 (ML et MLL) : Rappels MAPSI, Estimation de densité
- TD 2 (ML et MLL) : Descente de gradient, modèles linéaires
- TD 3 (ML et MLL) : Perceptron
- TD4 (ML) : Backpropagation et NN
- TD 5 (ML et MLL(4) ) : SVMs, Noyaux
TD 6 (ML et MLL(5)) : Boosting, Entropie - TD 7 (ML) : Non supervisé
- TD 8 (ML) : RL
- TD 9 (ML) : RKHS, Systèmes de recommandation
- TD 10 (ML) : Annales
TMEs
- TME 1 (ML et MLL) : Estimation de densité (données et code source)
- TME 2 (ML et MLL) : Descente de gradient, modèles linéaires (code source)
- TME 3 (ML) : Intro aux réseaux de neurones
- TME 4 (ML) : Intro aux réseaux de neurones (II)
- TME 5 (ML et MLL(3 et 4)) : Perceptron et SVMs (squelette et données)
- TME 6 (ML et MLL(5)) : Boosting, Bagging
- TME 7 (ML) : Non supervisé (k-means pour la caractéristation géographique)
- TME 8 (ML) : RL (squelette de code)
- TME 9 (ML) : Systèmes de recommandation (données)
- TME 10 (ML) : Processus Gaussien
TPs sur la PPTI
Machines de la PPTI
Trois salles de la ppti sont équipées de bons GPUs (RTX 2080) : la 502, la 509 et la 407. Pour se connecter, en ssh en passant par la passerelle ssh.ufr-info-p6.jussieu.fr, puis ppti-14-502-XX (XX=01 à 16) ou ppti-14-407-XX. Ces machines sont arrêtées le soir et redémarrées le matin; en cours de semestre, elles seront utilisables toute la journée, mais rebootées une fois par jour vers 8h. Au niveau espace disque, en plus du /tmp
, vous avez également un répertoire /temporary
qui est semi-permanent (il n’est pas nettoyé à chaque reboot) de plus de 300Go, dans lequel vous pouvez travailler quand vous avez besoin de place. N’oubliez pas de recopier les résultats expérimentaux toutefois !
Se connecter à distance sur les machines de la PPTI
Pour pouvoir vous connecter à distance aux machines de la PPTI, il faut utiliser ssh. Afin de vous permettre de vous connecter facilement, il faut ajouter dans le fichier de configuration $HOME/.ssh/config
les lignes suivantes :
Host ppti User votre_login Hostname ssh.ufr-info-p6.jussieu.fr Host ppti-* User votre_login User votre_login ProxyJump ppti
Pour lancer un jupyter lab, faire ssh -L8888:localhost:8888 -L 6006:localhost:6006 ppti-14-502-XX
et lancer jupyter lab sur la machine à distance. En local, vous utilisez l’adresse habituelle de jupyter, http://localhost:8888
, et de tensorboard, http://localhost:6006.
Pour plus de facilité, utilisez une clef SSH en exécutant sur votre machine
ssh-keygen -t ed25519
Dans le répertoire .ssh, vous trouverez un fichier id_ed25519.pub
dont le contenu devra être mis dans le $HOME/.ssh/authorized_hosts
d’une machine de la ppti.
Annales :
- 2014-2015 : Examen, Rattrapage
- 2015-2016 : Partiel, Examen
- 2016-2017 : Partiel, Exam, Rattrapage
- 2017-2018 : Partiel, Exam, Rattrapage
Bibliographie/liens utiles
Cours on-line :
- Cours de J. Corso, Buffalo University
- Cours de K. Murphy, Brown University
- Cours A. Smola, Canergie Mellon University
- Cours A. Ng, Stanford University
- Cours T. Mitchell, Stanford University
- Cours K. Weinberger, Cornell University
- Cours N. de Freitas, British Columbia University
Livres :
- Element of Statistical Learning, Hastie, Tibshirani and Friedman (la référence)
- Pattern Classification, Duda, Hart and Stork
- Machine LPapers/ESLII.pdfearning, T. Mitchell
- Pattern Recognition, C. Bishop
- Reinforcement Learning, Barto et Sutton
- Deep Learning, Goodfellow, Bengio, et Courteville
- A course in Machine Learning, Hal Daumé III (le plus abordable et simple)
Python Numpy
- Tuto MAPSi
- Autre très bon tuto (A. Gramfort, Telecom)
- Python en 10 min
- De matlab à Numpy
- Le tuto officiel