Récentes avancées
Programme
Dans ce chapitre nous allons voir :
-
Les récentes avancées théoriques dans le domaine du deep learning : les modèles de diffusion et Large Langage models
-
Un tour d'horizon de quelques services & frameworks associés
Limitations et nouveaux modèles : diffusion et LLM
"Pour aller plus loin : les transformers"
- lien vers un article généraliste détaillant l'architecture des transformer ou celui-ci donnant une description très visuelle.
- l'article de recherche original : "Attention is what you need" ayant introduit le concept de self-attention
Outils
" Quelques frameworks pour les LLMs"
Il existe de plus en plus de frameworks pour travailler avec des LLMs