Programme d’études 2023-2024English
First-Order Methods for Large Scale Machine Learning
Unité d’enseignement du programme de Master : ingénieur civil en informatique et gestion (MONS) (Horaire jour) à la Faculté Polytechnique

CodeTypeResponsable Coordonnées
du service
Enseignant(s)
UI-M2-IRIGIG-204-MUE ObligatoireGILLIS NicolasF151 - Mathématique et Recherche opérationnelle
  • GILLIS Nicolas

Langue
d’enseignement
Langue
d’évaluation
HT(*) HTPE(*) HTPS(*) HR(*) HD(*) CréditsPondération Période
d’enseignement
  • Anglais
Anglais81600022.002e quadrimestre

Code(s) d’AAActivité(s) d’apprentissage (AA) HT(*) HTPE(*) HTPS(*) HR(*) HD(*) Période
d’enseignement
Pondération
I-MARO-303First-Order Methods for Large Scale Machine Learning612000Q275.00%
I-MARO-304First-Order Methods for Large Scale Machine Learning - Complements24000Q225.00%

Unité d'enseignement

Objectifs par rapport aux acquis d'apprentissage du programme

  • Imaginer, concevoir, réaliser et mettre en oeuvre des modèles conceptuels et des solutions informatiques pour répondre à des problèmes complexes notamment de décision, d'optimisation, de gestion et de production dans le cadre d'une démarche d'innovation en entreprise en intégrant l'évolution des besoins, contextes et enjeux (techniques, économiques, sociétaux, éthiques et environnementaux).
    • Sur base d'une modélisation, concevoir un système ou une stratégie répondant au problème posé ; les évaluer compte tenu des différents paramètres du cahier des charges.
  • Mobiliser un ensemble structuré de connaissances et compétences scientifiques et techniques spécialisées permettant de répondre, avec expertise et adaptabilité, aux missions de l'ingénieur civil en Informatique et Gestion
    • Maîtriser et mobiliser de façon pertinente des connaissances, des modèles, des méthodes et des techniques relatifs au domaine de l'Informatique et Gestion
    • Evaluer la validité des modèles et des résultats compte tenu de l'état de la science et des caractéristiques du problème.
  • Planifier, gérer et mener à bien des projets compte tenu de leurs objectifs, ressources et contraintes et en assurant la qualité des activités et des livrables.
    • Définir et cadrer le projet compte tenu de ses objectifs, ressources et contraintes.
  • Travailler efficacement en équipe, développer son leadership, prendre des décisions dans des contextes multidisciplinaires, multiculturels et internationaux.
    • Interagir efficacement avec d'autres acteurs pour réaliser un travail commun dans des contextes variés (multidisciplinaires, multiculturels et internationaux).
  • Communiquer et échanger des informations de manière structurée - oralement, graphiquement et par écrit, en français et dans une ou plusieurs autres langues - sur les plans scientifique, culturel, technique et interpersonnel en s'adaptant au but poursuivi et au public concerné.
    • Argumenter et convaincre, tant à l'oral qu'à l'écrit, vis-à-vis de clients, des enseignants et des jurys.
  • Contribuer par un travail de recherche à la solution innovante d'une problématique en sciences de l'ingénieur.
    • Construire un cadre théorique ou conceptuel de référence, formuler des solutions innovantes à partir de l'analyse de la littérature scientifique, notamment dans des champs disciplinaires nouveaux ou émergents.
    • Concevoir et mettre en oeuvre des analyses conceptuelles, des modélisations numériques, des implémentations logicielles, des études expérimentales et des analyses comportementales.
    • Interpréter adéquatement des résultats en tenant compte du cadre de référence au sein duquel la recherche s'est développée.
    • Communiquer, à l'écrit et à l'oral, sur la démarche et ses résultats en mettant en évidence tant les critères de scientificité de la recherche menée, que les potentialités d'innovation théoriques ou techniques et les possibles enjeux non techniques.

Acquis d'apprentissage de l'UE

Ce cours a pour objet l'introduction de méthode du premier ordre pour l'optimisation de problèmes de grande taille, avec des applications en analyse de données et machine learning. En particulier, l'attention sera portée sur les méthodes de gradient stochatisques qui sont utilisées pour optimiser les poids dans un réseau de neurones profonds. 

Contenu de l'UE : descriptif et cohérence pédagogique

Organisation du cours:  - Introduction au méthodes du premier orde et motivations.  - Méthode du premier ordre optimales en optimisation convexe. - Méthodes de gradient sctochastique. - Projet: comparer des méthodes du premier ordre pour un problème de classification.   

Compétences préalables

Optimisation non-linéaire

Types d'activités

AATypes d'activités
I-MARO-303
  • Cours magistraux
  • Travaux pratiques
  • Projet sur ordinateur
I-MARO-304
  • Travaux pratiques

Mode d'enseignement

AAMode d'enseignement
I-MARO-303
  • En présentiel
I-MARO-304
  • En présentiel

Supports principaux non reproductibles

AASupports principaux non reproductibles
I-MARO-303Slides et autres supports disponibles sur Moodle
I-MARO-304Slides et autres supports disponibles sur Moodle

Supports complémentaires non reproductibles

AASupport complémentaires non reproductibles
I-MARO-303Bottou, L., Curtis, F. E., & Nocedal, J. (2018). Optimization methods for large-scale machine learning. Siam Review60(2), 223-311.  Newton, D., Yousefian, F., & Pasupathy, R. (2018). Stochastic Gradient Descent: Recent Trends. In Recent Advances in Optimization and Modeling of Contemporary Problems (pp. 193-220). INFORMS.
I-MARO-304Bottou, L., Curtis, F. E., & Nocedal, J. (2018). Optimization methods for large-scale machine learning. Siam Review60(2), 223-311.  Newton, D., Yousefian, F., & Pasupathy, R. (2018). Stochastic Gradient Descent: Recent Trends. In Recent Advances in Optimization and Modeling of Contemporary Problems (pp. 193-220). INFORMS.

Autres références conseillées

AAAutres références conseillées
I-MARO-303Sans objet
I-MARO-304Sans objet

Reports des notes d'AA d'une année à l'autre

AAReports des notes d'AA d'une année à l'autre
I-MARO-303Non autorisé
I-MARO-304Autorisé

Evaluation du quadrimestre 2 (Q2) - type

AAType(s) et mode(s) d'évaluation Q2
I-MARO-303
  • Examen écrit - A distance
I-MARO-304
  • Examen écrit - A distance

Evaluation du quadrimestre 2 (Q2) - commentaire

AACommentaire sur l'évaluation Q2
I-MARO-303Cette AA est évalué via un projet
I-MARO-304Cette AA est évalué via un projet

Evaluation du quadrimestre 3 (Q3) - type

AAType(s) et mode(s) d'évaluation du Q3
I-MARO-303
  • Examen écrit - A distance
I-MARO-304
  • Examen écrit - A distance

Evaluation du quadrimestre 3 (Q3) - commentaire

AACommentaire sur l'évaluation Q3
I-MARO-303idem Q1
I-MARO-304idem Q1
(*) HT : Heures théoriques - HTPE : Heures de travaux pratiques encadrés - HTPS : Heures de travaux pratiques supervisés - HD : Heures diverses - HR : Heures de remédiation - Dans la colonne Pér. (Période), A=Année, Q1=1er quadrimestre et Q2=2e quadrimestre
Date de dernière mise à jour de la fiche ECTS par l'enseignant : 23/03/2023
Date de dernière génération automatique de la page : 27/04/2024
20, place du Parc, B7000 Mons - Belgique
Tél: +32 (0)65 373111
Courriel: info.mons@umons.ac.be