AMAL: Advanced MAchine Learning & Deep Learning

Cette UE vise à aborder les concepts suivants:

  • Introduction au deep learning: Cours, TD & TP autour des architectures de l’état de l’art.
    • Architectures de réseaux de neurones profonds
    • Réseaux à convolution, réseaux récurrents
    • Modèles d’attention
    • Graphes de calcul et auto-différentiation
    • Formation aux outils de l’état de l’art: pytorch & tensor flow
  • Approfondissement des concepts fondateurs du machine learning
    • Théorie de l’apprentissage statistique, capacité de généralisation, dilemme biais-variance, PAC, complexité d’apprentissage ,etc…
    • Apprentissage Supervisé : Classification, Réseaux de Neurones, Machines à vecteurs de support, Méthodes à noyaux, processus Gaussiens, etc…
    • Optimisation
    • Apprentissage non supervisé : Clustering, Factorisation matricielle, Modèles à variables latentes (mélanges, etc)
  • Autre paradigmes d’apprentissage :
    • Apprentissage faiblement supervisé, Apprentissage semi-supervisé et transductif, Apprentissage actif,
    • Transfer Learning
    • Apprentissage et données structurées : Séquences et arbres, Graphes et données inter-dépendantes.