Machine Learning Avancé
Voie Data Science et Marketing
- Année
- 3e année
- Semestre
- Semestre 5
- Unité d’enseignement
- Méthodes Data Science
- Volume horaire
- 30 h
- Crédits
- 2,5
Les fiches sont renseignées à partir des syllabus RESA/ENEAM et peuvent être actualisées par l’équipe pédagogique. Les modalités d’évaluation indiquées ne remplacent pas les consignes du cours.
Objectif du cours
Il existe de nombreux cas dans lesquels l’apprentissage automatique pourrait nécessiter une théorie spécifique. Dès lors, différents problèmes tels que le sur-apprentissage ou l’apprentissage sur des grands volumes de données pourraient survenir. Ainsi, ce cours se donne pour objectif d’apporter aux étudiants des compléments de machine learning leur permettant d’adresser ces questions.
L’objectif de ce cours de présenter aux étudiants les différentes méthodes complémentaires utilisées en machine learning pour adresser certaines questions spécifiques.
Plan du cours
-
Partie 1 : Régularisation
15 h- Régression sous contrainte
- Ingrédients principaux des problèmes inverses et d’apprentissage statistique + exemples pratiques
- Motivations et objectifs de la régularisation
- Types de régularisation et fonctions de régularisation couramment rencontrées
- Ridge regression
- LASSO
- Elastic-net
- Méthodes d’agrégation
- Méthodes par arbres (CART)
- Bagging et forêt aléatoire
- Boosting
- Support Vector Machine (SVM)
- SVM linéaire
- SVM non linéaire
-
Partie 2 : Systèmes de recommandation
15 h- Objectif des systèmes de recommandation
- État de l’art des systèmes de recommandation (plus proches voisins, filtrage collaboratif…)
- Évaluation des systèmes de recommandation
- Problèmes rencontrés par les systèmes de recommandation et solutions afférentes (démarrage à froid, compromis exploration-exploitation...)
Évaluation
1 contrôle écrit et un devoir pratique
Bibliographie
- Hastie, Trevor, Robert Tibshirani, and Martin Wainwright. 2015. Statistical Learning with Sparsity: The Lasso and Generalizations. CRC Press.
- C. Bishop. Pattern recognition and machine learning. Springer-Verlag New York, 2006.
- S. Foucart and H. Rauhut. A mathematical introduction to compressive sensing. Applied and Numerical Harmonic Analysis. Birkhaüser, 2013.
- D. P. Bertsekas. Nonlinear Programming. Athena Scientific, USA, 2003.
- Statistical Methods for Recommender Systems. Deepak K. Agarwal, Bee-Chung Chen. 2016.
- Recommender Systems: The Textbook. Charu C. Aggarwal. Springer, 2016.
- Bandit algorithms for Website optimization. John Myles White. O’Reilly Media.
- Blog et tutoriels de Sebastien Bubeck’s : https://blogs.princeton.edu/imabandit/
- Regret Analysis of Stochastic and Nonstochastic Multi-armed Bandit Problems. Sébastien Bubeck, Nicolò Cesa-Bianchi. https://arxiv.org/abs/1204.5721
- Bandit Algorithms. Tor Lattimore and Csaba Szepesvári. Cambridge University Press. https://torlattimore.com/downloads/book/book.pdf