Votre environnement de travail doit être mis en place en suivant les instructions sur cette page.

Cours

TD

Objectifs : prise en main de pytorch, implémentation d’une fonction au sens de pytorch, descente de gradient, dérivation chaînée.

Objectifs :Autograd, Modules.

Objectifs : Modules (fin), tensorboard, GPU, checkpointing, Dataset, Dataloader

Objectifs : Réseaux récurrents, classification de séquences, forecasting, génération de texte, softmax, cross entropie et embeddings (intro).

Objectifs : LSTM et GRU, padding, batch de séquences de tailles variables, beam-search

Objectifs : Seq2Seq, Tagging et Traduction, RNN PyTorch, Curiculum Learning

Objectifs : Protocole expérimentale, régularisation L1, L2 , dropout, batchnorm, layernorm, lightning, optuna

Objectifs : CNN et classification de sentiments

Objectifs : Attention globale

Objectifs : Self-Attention, Positional Embeddings, transformers

Objectifs : Apprentissage de réprésentation pour les graphes, Node2vec, GNN