Deep Learning par la pratique

Cours sur 3 jours de Deep Learning avec Tensorflow et Keras.

11, 12, 13 juin 2024

Ressources techniques

Les notebooks sont à executer sur Google Colab avec un runtime GPU

Objectifs pédagogiques

• Comprendre l'évolution des réseaux de neurones et les raisons du succès actuel du Deep Learning
• Utiliser les bibliothèques de Deep Learning les plus populaires
• Comprendre les principes de conception, les outils de diagnostic et les effets des différents verrous et leviers
• Acquérir de l'expérience pratique sur plusieurs problèmes réels

Programme

6 sessions d'une demi-journée chacune

• S1 : rappels et perceptron

  • Rappels de machine learning : overfit, fonction de coût, régularisation

  • Gradient stochastique

  • Perceptron

  • Perceptron multicouches

  • slides : https://docs.google.com/presentation/d/1ICzxLRu9RaYCVQ6hsSuWW7dCdrez0QlZmhmVPL5uda0/edit?usp=sharing

• S2 : perceptron multicouches

  • Le deep learning

  • Écosystème et librairies : Tensorflow, JAX, Pytorch, Keras

  • Types de réseaux

  • Tenseurs

  • Cycle de vie d'un modèle

  • Backpropagation

  • slides : https://docs.google.com/presentation/d/101_5TpuJgcOGTP5_x9m4aXEg9bNa44r7uHTxOjD8Kw0/edit?usp=sharing

• S3 : CNN

  • Callbacks

  • Convolutional Neural Networks

  • Tensorboard

  • Transfer Learning

  • slides : https://docs.google.com/presentation/d/1kIjCrD8IClgCwW0e-7e8lbjLLNEC_xSAGqTeZ1Blj4Q/edit?usp=sharing

• S4 : RNN

  • Recurrent Neural Networks
  • LSTM et GRU
  • slides : https://docs.google.com/presentation/d/1dDsXIFrMAPcXc_GQ1AqMIqvAhUjRDhdleA_oMsxWvCE/edit?usp=sharing

• S5 : Autoencoders et VAEs

  • Autoencoder

  • Variational autoencoders

  • slides : https://docs.google.com/presentation/d/1c8rTWcZYmNbPx8M4htF43e8J8Zw1R_-FJbwJ_OUk-Xw/edit?usp=sharing

• S6 : NLP

  • Text

  • Recap et questions

  • slides (wip) : https://docs.google.com/presentation/d/1Q9hzLkxESdJczZO7E5tZ-FJEeFyyVDojDNfN5vRCCW0/edit?usp=sharing