Votre environnement de travail doit être mis en place en suivant les instructions sur cette page.
Cours
- Slides du cours : première partie
TD
TME
Projet :
Choisir un article parmi https://openreview.net/group?id=ICLR.cc/2023/Conference et renseigner : https://docs.google.com/spreadsheets/d/1DVchRI9qwEWZQV2wHDiZII4sW5gVyQhZveqoyJARRrE/edit?usp=sharing
Semaine 1
Objectifs : prise en main de pytorch, implémentation d’une fonction au sens de pytorch, descente de gradient, dérivation chaînée.
Semaine 2
Objectifs :Autograd, Modules.
Semaine 3
Objectifs : Modules (fin), tensorboard, GPU, checkpointing, Dataset, Dataloader
Semaine 4
Objectifs : Réseaux récurrents, classification de séquences, forecasting, génération de texte, softmax, cross entropie et embeddings (intro).
Semaine 5
Objectifs : LSTM et GRU, padding, batch de séquences de tailles variables, beam-search
Semaine 6
Semaine 7
Objectifs : protocole expérimentale, régularisation L1, L2 , dropout, batchnorm, layernorm, lightning, optuna
Semaine 8 : TD
Semaine 9
Objectifs : CNN et classification de sentiments
Semaine 10
Objectifs : Attention globale
*
Semaine 11
Objectifs : self-attention, Positional Embeddings, transformers
Semaine 12
Objectifs : Apprentissage de réprésentation pour les graphes, Node2vec, GNN