Réseaux de neurones artificiels et apprentissage profond🔗
Réseaux de neurones artificiels🔗
Ce cours propose une introduction progressive aux réseaux de neurones artificiels et au Deep Learning. Il commence par les bases de l’apprentissage supervisé, la régression linéaire et logistique, puis présente le fonctionnement des neurones artificiels et des perceptrons multicouches.
Pour le BE, vous pouvez ouvrir le fichier ci-dessous avec jupyter notebook ; vous pouvez également réaliser le BE sous Google Colab.
BE Réseaux de Neurones avec Numpy
Apprentissage profond🔗
Ce cours approfondit les notions fondamentales du Deep Learning en s’intéressant aux principaux leviers qui influencent l’apprentissage et les performances d’un réseau de neurones. Il aborde notamment les fonctions d’activation et leurs effets sur la propagation des gradients, ainsi que les différentes méthodes d’optimisation, de la descente de gradient aux approches comme AdaGrad, RMSProp et Adam.
Une partie importante est consacrée au sous-apprentissage et au sur-apprentissage, avec l’étude des ensembles d’apprentissage, de validation et de test, ainsi qu’au choix de la capacité du modèle. Le cours présente également différentes techniques de régularisation, comme l’early stopping, le weight decay, L1/L2, l’augmentation de données et le bagging.
L’objectif est donc de comprendre non seulement comment entraîner un réseau de neurones, mais surtout comment améliorer son apprentissage, éviter le sur-apprentissage et choisir les bons paramètres pour obtenir un modèle qui généralise correctement.
Quelques ressources🔗
Le livre Deep Learning de Goodfellow et al. est disponible en ligne gratuitement et est une très bonne lecture.
Le playground permet de tester empiriquement un grand nombre d'hyperparamètres des réseaux de neurone.