AMAL 2022-2023

Votre environnement de travail doit être mis en place en suivant les instructions sur cette page.

Cours

TD

Annale 2019-2020

TME

Projet :

Choisir un article parmi https://openreview.net/group?id=ICLR.cc/2023/Conference et renseigner : https://docs.google.com/spreadsheets/d/1DVchRI9qwEWZQV2wHDiZII4sW5gVyQhZveqoyJARRrE/edit?usp=sharing

Semaine 1

Objectifs : prise en main de pytorch, implémentation d’une fonction au sens de pytorch, descente de gradient, dérivation chaînée.

Semaine 4

Objectifs : Réseaux récurrents, classification de séquences, forecasting, génération de texte, softmax, cross entropie et embeddings (intro).

Semaine 5

Objectifs : LSTM et GRU, padding, batch de séquences de tailles variables, beam-search

Semaine 6

Semaine 7

Objectifs : protocole expérimentale, régularisation L1, L2 , dropout, batchnorm, layernorm, lightning, optuna

Semaine 8 : TD

Semaine 9

Objectifs : CNN et classification de sentiments

Semaine 10

Objectifs : Attention globale
*

Semaine 11

Objectifs : self-attention, Positional Embeddings, transformers

Semaine 12

Objectifs : Apprentissage de réprésentation pour les graphes, Node2vec, GNN