Analyse de données séquentielles avec le deep learning
Programme
Dans ce chapitre nous allons voir :
- les bases de l'analyse de séquences en deep learning
- étudier le fonctionnement les réseaux de neurones récurrent (RNN) et de leurs principales variations, les réseaux long short term memory (LSTM) et les gated reccurent unit (GRU)
- apprendre a entrainer et optimiser des réseaux récurrents pour différents cas d'usages : le traitement du langage et l'analyse de série temporelles
Leçon : Les réseaux de neurones récurrents
Pour aller plus loin dans les maths
En fonction de vos besoins, je vous propose d'approfondir vos connaissances avec plus de détails mathématiques, le fonctionnement des réseaux récurrents pour différents types d'analyse de séquence en suivant quelques leçons du cours dédié d'Open Classroom (en français):
Concernant les application de l'analyse de séquence
Nous avons vu les principes génériques de l'analyse de séquence, on peut cependant distinguer certains sous domaines ayant leur propre méthodologie :
Le traitement des séries temporelles
Bien que les architectures basés sur les RNN et leur dérivés soient très populaires pour cela (de par leur approche end-to-end ne nécessitant pas d'extraction de features spécifiques), il existe des approches en machine learning classique :
- fabriquer des features spécifiques (en utilisant par exemple des indicateurs statisitique ou des méthodes issues du traitement du signal) à partir des séries temporelles brutes et utiliser des algorithmes de machine learning classique
- utiliser des approches auto-regressive directement sur le signal brut, comme les modèles ARIMA (et leur variation sARIMA et sARIMAX).
Pour une introduction, vous pouvez voir ce cours
Le traitement du langage natuel
En TALN, on étudie des données se présentant généralement sous la forme de texte ou d'audio. Ces données nécessitent des pré-traitements spécifiques afin d'être analysée en deep learning, comme nous le verrons dans les leçons suivantes