lecon workflow marimo

import%20marimo%0A%0A__generated_with%20%3D%20%220.20.2%22%0Aapp%20%3D%20marimo.App(%0A%20%20%20%20layout_file%3D%22data%3Aapplication%2Fjson%3Bbase64%2CewogICJ0eXBlIjogInNsaWRlcyIsCiAgImRhdGEiOiB7fQp9%22%2C%0A)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%20Le%C3%A7on%3A%20Cha%C3%AEne%20de%20traitement%20(workflow)%20en%20machine%20learning%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Les%20diff%C3%A9rentes%20%C3%A9tapes%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%3Cimg%20src%3D%22https%3A%2F%2Ffiledn.eu%2FlefeldrXcsSFgCcgc48eaLY%2Fimages%2Fcours_datascience_IA%2Fworkflow_ml.png%22%0A%20%20%20%20%20%20%20%20style%3D%22width%3A50%25%22%3E%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Bonnes%20pratiques%20(minimales)%20pour%20la%20construction%20de%20votre%20chaine%20de%20traitement%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Organiser%20votre%20code%20de%20mani%C3%A8re%20modulaire%20pour%20faciliter%20le%20lancement%20d'un%20grand%20nombre%20d'it%C3%A9rations%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Sauvegarder%20les%20r%C3%A9sultats%20de%20vos%20traitements%20%3A%20data%20set%20pr%C3%A9-trait%C3%A9%20(par%20ex%20avec%20%60pandas%60)%2C%20mod%C3%A8le%20entrain%C3%A9%20%3A%20%5Bpr%C3%A9f%C3%A9rez%20%60joblib%60%20pour%20vos%20mod%C3%A8les%20entrain%C3%A9s%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodel_persistence.html%23model-persistence)%20(ou%20utiliser%20la%20librairie%20g%C3%A9n%C3%A9raliste%20%60pickle%60%20de%20pyhton)%0A%0A%20%20%20%20%60%60%60%0A%20%20%20%20joblib.save(model%2C%20path)%0A%20%20%20%20joblib.dump(model%2C%20path)%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Enregistrer%20l'%C3%A9volution%20des%20performances%20au%20fil%20des%20it%C3%A9rations%3A%0A%20%20%20%20Par%20exemple%20avec%20%5Bmlflow%5D(https%3A%2F%2Fmlflow.org%2F)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Etapes%20de%20traitement%20quasi-indispensables%20(pseudo-code)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Utiliser%20la%20m%C3%A9thode%20hold-out%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20X_train%2C%20X_test%2C%20y_train%2C%20y_test%20%3D%20train_test_split(X%2Cy%2C%20test_size%3D...%2C%20random_state%3D...)%0A%20%20%20%20%23%20fixer%20le%20random%20state%20%C3%A0%20une%20valeur%20enti%C3%A8re%20pour%20la%20reproductibili%C3%A9%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Pour%20apprendre%20et%20appliquer%20une%20transformation%20(souvent%20pendant%20le%20pr%C3%A9-traitement)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20transformer%20%3D%20NomTransformation(parametres)%0A%20%20%20%20transformer.fit(X_train)%0A%20%20%20%20transformer.transform(X_train)%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%E2%9A%A0%EF%B8%8F%20**Attention%20au%20risque%20de%20data%20leakage**%20%E2%98%A2%EF%B8%8F%3A%0A%20%20%20%20Ne%20pas%20appliquer%20de%20transformation%20apprise%20en%20dehors%20du%20jeu%20d'apprentissage%20!%0A%0A%20%20%20%20On%20**apprend**%20les%20transformation%20**uniquement%20sur%20le%20jeu%20d'apprentissage**%2C%20et%20on%20**applique**%20ces%20transformations%20**%C3%A0%20la%20fois**%20sur%20celui%20d'apprentissage%20et%20de%20test%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Exemple%20%3A%20appliquer%20un%20%5B%60RobustScaler%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.preprocessing.RobustScaler.html%3Fhighlight%3Drobustscaler%23sklearn.preprocessing.RobustScaler)%20aux%20donn%C3%A9es%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20from%20sklearn.preprocessing%20import%20RobustScaler%0A%20%20%20%20_X_train%20%3D%20%5B%5B%201.%2C%20-2.%2C%20%202.%5D%2C%0A%20%20%20%20%20%20%20%20%20%5B%20-2.%2C%20%201.%2C%20%203.%5D%2C%0A%20%20%20%20%20%20%20%20%20%5B%204.%2C%20%201.%2C%20-2.%5D%5D%0A%20%20%20%20transformer%20%3D%20RobustScaler().fit(_X_train)%0A%20%20%20%20result%20%3D%20transformer.transform(_X_train)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Pour%20entrainer%20un%20mod%C3%A8le%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20model%20%3D%20NomDuModele(parametres%2Chypermarametres)%0A%20%20%20%20model.fit(X_train%2Cy_train)%20%23%20apprentissage%20supervis%C3%A9%0A%20%20%20%20model.fit(X_train)%20%23%20apprentissage%20non%20supervis%C3%A9%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%23%20Attention%20%C3%A0%20toujours%20faire%20une%20optimisation%20!%20%E2%9A%A0%EF%B8%8F%E2%9A%A0%EF%B8%8F%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Une%20erreur%20classique%20est%20d'entra%C3%AEner%2C%20par%20facilit%C3%A9%2C%20un%20mod%C3%A8le%20avec%20les%20param%C3%A8tres%20par%20d%C3%A9faut.%0A%0A%20%20%20%20%E2%9D%8C%E2%9D%8C%E2%9D%8C%E2%9D%8C%E2%9D%8C%0A%20%20%20%20%60%60%60python%0A%20%20%20%20model%20%3D%20NomDuModele()%0A%20%20%20%20model.fit()%0A%20%20%20%20%60%60%60%0A%20%20%20%20%E2%9D%8C%E2%9D%8C%E2%9D%8C%E2%9D%8C%E2%9D%8C%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Ca%20n'est%20pas%20une%20bonne%20approche%2C%20car%20les%20param%C3%A8tres%20utilis%C3%A9s%20par%20d%C3%A9faut%20ne%20donnent%20g%C3%A9n%C3%A9ralement%20**pas%20des%20performances%20et%2Fu%20une%20intrepr%C3%A9tabilit%C3%A9%20optimale**%2C%20et%20peuvent%20m%C3%AAme%20**tendre%20au%20sur%20apprentissage**%20(*en%20particulier%20les%20m%C3%A9thodes%20bas%C3%A9es%20sur%20les%20arbres%20de%20d%C3%A9cision*)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Vous%20devez%20**TOUJOURS%20optimiser**%20votre%20mod%C3%A8le%20pour%20trouver%20les%20param%C3%A8tres%20les%20optimaux%20possible%20%C3%A0%20utiliser%20lors%20de%20l'entrainement%3A%0A%20%20%20%20-%20%E2%9C%85%20soit%20en%20utilisant%20un%20optimiseur%20sp%C3%A9cifique%20%C3%A0%20votre%20mod%C3%A8le%20%3A%20par%20exemple%2C%20les%20%60moindres%20carr%C3%A9s%60%20(pour%20la%20r%C3%A9gression)%20%2C%20la%20%60descente%20de%20gradient%60%20(r%C3%A9seaux%20de%20neurones%20et%20m%C3%A9thodes%20de%20boosting)%0A%20%20%20%20-%20%E2%9C%85%20soit%20en%20utilisant%20des%20m%C3%A9thodes%20d'optimisation%20g%C3%A9n%C3%A9ralistes%20!%20par%20exemple%20en%20utilsant%20des%20packages%20d%C3%A9di%C3%A9s%20comme%20%5BOptuna%5D(https%3A%2F%2Foptuna.org%2F)%0A%20%20%20%20-%20%E2%9C%85%20sinon%2C%20**a%20minima**%20avec%20des%20m%C3%A9thodes%20*brute%20force*%20comme%20le%20%60GridSearchCV%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Les%20mod%C3%A8les%20qui%20poss%C3%A8dent%20un%20optimiseur%20sp%C3%A9cifique%20d%C3%A9ja%20impl%C3%A9ment%C3%A9%0A%0A%20%20%20%20Certains%20mod%C3%A8les%20poss%C3%A8dent%20des%20algorithmes%20d'optimisation%20sp%C3%A9cifiques%20qui%20permettent%20de%20trouver%20les%20param%C3%A8tres%20optimaux%20de%20mani%C3%A8re%20plus%20efficace%20qu'avec%20un%20%60GridSearchCV%60.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Rappel%20%3A%20la%20m%C3%A9thode%20des%20moindres%20carr%C3%A9s%20(r%C3%A9solution%20analytique)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Nous%20avons%20vu%20qu'elle%20revient%20%C3%A0%20minimiser%20la%20somme%20des%20%C3%A9carts%20au%20carr%C3%A9%20entre%20les%20pr%C3%A9dictions%20et%20les%20erreurs%2C%20comme%20le%20montre%20%5Bcet%20exemple%20interactif%5D(https%3A%2F%2Fsetosa.io%2Fev%2Fordinary-least-squares-regression%2F)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Par%20exemple%2C%20dans%20la%20r%C3%A9gression%20lin%C3%A9aire%2C%20dont%20l'%C3%A9quation%20est%20%3A%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%24%5Chat%20y%20%3D%20X%5Ctheta%20%2B%20%5Cepsilon%24%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20avec%20%3A%0A%20%20%20%20-%20%24X%24%20repr%C3%A9sente%20la%20matrice%20de%20vos%20donn%C3%A9es%20contenant%20**p%20variables**%20et%20**n%20observations**%0A%20%20%20%20-%20%24%5Ctheta%24%20le%20vecteur%20des%20param%C3%A8tres%20%C3%A0%20apprendre%0A%20%20%20%20-%20%24%5Chat%20y%24%20les%20valeurs%20de%20%24y%24%20pr%C3%A9dites%20par%20notre%20mod%C3%A8le%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20On%20utilise%20la%20loss%20fonction%20%3A%20%24loss(%5Ctheta)%20%3D%20%7C%7C%5Chat%20y_i%E2%88%92y_i%7C%7C_2%3D%20%5Csqrt%7B(%5Chat%20y_1%20-%20y_1)%5E2%20%2B%20%5Cldots%20%2B(%5Chat%20y_n%20-%20y_n)%5E2%7D%24%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20L'optimisation%20revient%20%C3%A0%20minimiser%20la%20loss%20fonction%20%3A%20%20%24argmin_%5Ctheta~loss%24%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Dont%20la%20solution%20anlytique%20(exacte)%20est%20%3A%20%24%5Chat%20%5Ctheta%20%3D%20(X%5ETX)%5E%7B-1%7DX%5ETy%24%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%23%201.R%C3%A9gression%20lin%C3%A9aire%20avec%20optimisation%20analytique%20(moindres%20carr%C3%A9s)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20from%20sklearn.linear_model%20import%20LinearRegression%2C%20Ridge%2C%20Lasso%2C%20ElasticNet%0A%0A%20%20%20%20%23%20R%C3%A9solution%20analytique%20(pseudo-inverse)%0A%20%20%20%20model%20%3D%20LinearRegression()%0A%20%20%20%20model.fit(X_train%2C%20y_train)%0A%0A%20%20%20%20%23%20Ridge%20avec%20solver%20sp%C3%A9cifique%0A%20%20%20%20model%20%3D%20Ridge(%0A%20%20%20%20%20%20%20%20alpha%3D1.0%2C%0A%20%20%20%20%20%20%20%20solver%3D'auto'%20%20%20%20%23%20'auto'%2C%20'svd'%2C%20'cholesky'%2C%20'lsqr'%2C%20'sparse_cg'%2C%20'sag'%2C%20'saga'%2C%20'lbfgs'%0A%20%20%20%20)%0A%0A%20%20%20%20%23%20Lasso%20avec%20descente%20de%20coordonn%C3%A9es%0A%20%20%20%20model%20%3D%20Lasso(%0A%20%20%20%20%20%20%20%20alpha%3D1.0%2C%0A%20%20%20%20%20%20%20%20max_iter%3D1000%2C%0A%20%20%20%20%20%20%20%20tol%3D1e-4%2C%0A%20%20%20%20%20%20%20%20selection%3D'cyclic'%20%20%23%20'cyclic'%20ou%20'random'%0A%20%20%20%20)%0A%0A%20%20%20%20%23%20ElasticNet%0A%20%20%20%20model%20%3D%20ElasticNet(%0A%20%20%20%20%20%20%20%20alpha%3D1.0%2C%0A%20%20%20%20%20%20%20%20l1_ratio%3D0.5%2C%20%20%20%20%20%20%20%23%20ratio%20L1%2FL2%0A%20%20%20%20%20%20%20%20max_iter%3D1000%0A%20%20%20%20)%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%23%202.%20R%C3%A9gression%20avec%20optimisation%20automatique%20de%20la%20r%C3%A9gularisation%0A%0A%20%20%20%20%5B%60LassoCV%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.linear_model.LassoCV.html)%20%2F%20%5B%60RidgeCV%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.linear_model.RidgeCV.html)%20%2F%20%5B%60ElasticNetCV%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.linear_model.ElasticNetCV.html)%0A%20%20%20%20%60%60%60python%0A%20%20%20%20from%20sklearn.linear_model%20import%20LassoCV%2C%20RidgeCV%2C%20ElasticNetCV%0A%0A%20%20%20%20%23%20Optimisation%20automatique%20du%20param%C3%A8tre%20alpha%20par%20cross-validation%0A%20%20%20%20model%20%3D%20LassoCV(%0A%20%20%20%20%20%20%20%20alphas%3D%5B0.001%2C%200.01%2C%200.1%2C%201%2C%2010%5D%2C%20%20%23%20None%20%3D%20auto%0A%20%20%20%20%20%20%20%20cv%3D5%2C%0A%20%20%20%20%20%20%20%20max_iter%3D1000%0A%20%20%20%20)%0A%20%20%20%20model.fit(X_train%2C%20y_train)%0A%20%20%20%20print(f%22Meilleur%20alpha%3A%20%7Bmodel.alpha_%7D%22)%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Intuition%20%3A%20la%20descente%20de%20gradient%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20On%20peut%20imaginer%20l'espace%20des%20param%C3%A8tres%20%C3%A0%20minimser%20comme%20**une%20vall%C3%A9e**%2C%20dont%20on%20va%20chercher%20le%20**minimum**%20en%20cherchant%20pas%20%C3%A0%20pas%20le%20chemin%20de%20**plus%20grande%20pente**%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20**Algorithme**%20%3A%0A%20%20%20%201.Intialise%20au%20hasard%20des%20valeurs%20de%20param%C3%A8tre%20%24%5Ctheta%24%0A%20%20%20%202.R%C3%A9p%C3%A8te%20jusqu'%C3%A0%20convergence%3A%0A%20%20%20%20%26emsp%3B%203.Calcule%20le%20gradient%20de%20la%20loss%20function%20%24%5Cnabla%20J(%5Cbeta)%24%0A%20%20%20%20%26emsp%3B%204.Mets%20%C3%A0%20jour%20les%20param%C3%A8tres%20%24%5Cmathbf%7B%5Cbeta%7D%20%5Cleftarrow%20%20%20%5Cmathbf%7B%5Cbeta%7D%20-%20%5Ceta%20%5Cnabla_%7B%5Cmathbf%7B%5Cbeta%7D%7D%20J(%5Cmathbf%7B%5Cbeta%7D)%24%20%20avec%20%24%5Ceta%24%20le%20learning%20rate.%0A%20%20%20%205.%20Renvoie%20les%20param%C3%A8tres%20optimis%C3%A9s%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%3Cimg%20src%3D%22https%3A%2F%2Ffiledn.eu%2FlefeldrXcsSFgCcgc48eaLY%2Fimages%2Fcours_datascience_IA%2Fgradient_descent_from_MIT_course.png%22%20width%3D700%3E%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%23%201.%20Mod%C3%A8les%20lin%C3%A9aires%20avec%20descente%20de%20gradient%20stochastique%0A%0A%20%20%20%20%5B%60SGDClassifier%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.linear_model.SGDClassifier.html)%20%2F%20%5B%60SGDRegressor%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.linear_model.SGDRegressor.html)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20from%20sklearn.linear_model%20import%20SGDClassifier%2C%20SGDRegressor%0A%0A%20%20%20%20model%20%3D%20SGDClassifier(%0A%20%20%20%20%20%20%20%20loss%3D'log_loss'%2C%20%20%20%20%20%20%20%20%20%20%20%23%20fonction%20de%20perte%20('hinge'%2C%20'log_loss'%2C%20'squared_error'...)%0A%20%20%20%20%20%20%20%20penalty%3D'l2'%2C%20%20%20%20%20%20%20%20%20%20%20%20%20%20%23%20r%C3%A9gularisation%20('l1'%2C%20'l2'%2C%20'elasticnet')%0A%20%20%20%20%20%20%20%20alpha%3D0.0001%2C%20%20%20%20%20%20%20%20%20%20%20%20%20%20%23%20coefficient%20de%20r%C3%A9gularisation%0A%20%20%20%20%20%20%20%20learning_rate%3D'optimal'%2C%20%20%20%23%20strat%C3%A9gie%20('constant'%2C%20'optimal'%2C%20'invscaling'%2C%20'adaptive')%0A%20%20%20%20%20%20%20%20eta0%3D0.01%2C%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%23%20learning%20rate%20initial%0A%20%20%20%20%20%20%20%20max_iter%3D1000%2C%0A%20%20%20%20%20%20%20%20early_stopping%3DTrue%2C%20%20%20%20%20%20%20%23%20arr%C3%AAt%20anticip%C3%A9%20sur%20validation%0A%20%20%20%20)%0A%20%20%20%20model.fit(X_train%2C%20y_train)%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%5B%60LogisticRegression%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.linear_model.LogisticRegression.html)%20avec%20solver%20optimis%C3%A9%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20from%20sklearn.linear_model%20import%20LogisticRegression%0A%0A%20%20%20%20model%20%3D%20LogisticRegression(%0A%20%20%20%20%20%20%20%20solver%3D'lbfgs'%2C%20%20%20%20%23%20optimiseurs%3A%20'lbfgs'%2C%20'newton-cg'%2C%20'newton-cholesky'%2C%20'sag'%2C%20'saga'%0A%20%20%20%20%20%20%20%20max_iter%3D100%2C%0A%20%20%20%20%20%20%20%20tol%3D1e-4%20%20%20%20%20%20%20%20%20%20%20%23%20tol%C3%A9rance%20pour%20la%20convergence%0A%20%20%20%20)%0A%20%20%20%20model.fit(X_train%2C%20y_train)%0A%20%20%20%20%60%60%60%0A%0A%20%20%20%20%7C%20Solver%20%7C%20Description%20%7C%20Recommand%C3%A9%20pour%20%7C%0A%20%20%20%20%7C--------%7C-------------%7C-----------------%7C%0A%20%20%20%20%7C%20%60lbfgs%60%20%7C%20Quasi-Newton%20(d%C3%A9faut)%20%7C%20Petits%20datasets%20%7C%0A%20%20%20%20%7C%20%60sag%60%20%7C%20Stochastic%20Average%20Gradient%20%7C%20Grands%20datasets%20%7C%0A%20%20%20%20%7C%20%60saga%60%20%7C%20Variante%20de%20SAG%20avec%20L1%20%7C%20Grands%20datasets%2C%20sparse%20%7C%0A%20%20%20%20%7C%20%60newton-cg%60%20%7C%20Newton%20Conjugate%20Gradient%20%7C%20Multiclass%20%7C%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%23%202.%20R%C3%A9seaux%20de%20neurones%0A%0A%20%20%20%20%5B%60MLPClassifier%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.neural_network.MLPClassifier.html)%20%2F%20%5B%60MLPRegressor%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.neural_network.MLPRegressor.html)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20from%20sklearn.neural_network%20import%20MLPClassifier%2C%20MLPRegressor%0A%0A%20%20%20%20model%20%3D%20MLPClassifier(%0A%20%20%20%20%20%20%20%20hidden_layer_sizes%3D(100%2C%2050)%2C%0A%20%20%20%20%20%20%20%20solver%3D'adam'%2C%20%20%20%20%20%20%20%20%20%20%20%20%20%23%20optimiseurs%3A%20'adam'%2C%20'sgd'%2C%20'lbfgs'%0A%20%20%20%20%20%20%20%20learning_rate%3D'adaptive'%2C%20%20%23%20'constant'%2C%20'invscaling'%2C%20'adaptive'%0A%20%20%20%20%20%20%20%20learning_rate_init%3D0.001%2C%0A%20%20%20%20%20%20%20%20alpha%3D0.0001%2C%20%20%20%20%20%20%20%20%20%20%20%20%20%20%23%20r%C3%A9gularisation%20L2%0A%20%20%20%20%20%20%20%20max_iter%3D200%2C%0A%20%20%20%20%20%20%20%20early_stopping%3DTrue%2C%0A%20%20%20%20%20%20%20%20validation_fraction%3D0.1%2C%0A%20%20%20%20%20%20%20%20n_iter_no_change%3D10%2C%0A%20%20%20%20%20%20%20%20beta_1%3D0.9%2C%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%23%20param%C3%A8tres%20Adam%0A%20%20%20%20%20%20%20%20beta_2%3D0.999%0A%20%20%20%20)%0A%20%20%20%20model.fit(X_train%2C%20y_train)%0A%20%20%20%20%60%60%60%0A%0A%20%20%20%20%7C%20Solver%20%7C%20Description%20%7C%20Recommand%C3%A9%20pour%20%7C%0A%20%20%20%20%7C--------%7C-------------%7C-----------------%7C%0A%20%20%20%20%7C%20%60adam%60%20%7C%20Adaptive%20Moment%20Estimation%20(d%C3%A9faut)%20%7C%20Usage%20g%C3%A9n%C3%A9ral%20%7C%0A%20%20%20%20%7C%20%60sgd%60%20%7C%20Descente%20de%20gradient%20stochastique%20%7C%20Contr%C3%B4le%20fin%20du%20learning%20rate%20%7C%0A%20%20%20%20%7C%20%60lbfgs%60%20%7C%20Quasi-Newton%20%7C%20Petits%20datasets%20%7C%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%23%203.%20M%C3%A9thodes%20de%20Boosting%20avec%20learning%20rate%0A%0A%20%20%20%20%5B%60GradientBoostingClassifier%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.ensemble.GradientBoostingClassifier.html)%20%2F%20%5B%60GradientBoostingRegressor%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.ensemble.GradientBoostingRegressor.html)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20from%20sklearn.ensemble%20import%20GradientBoostingClassifier%0A%0A%20%20%20%20model%20%3D%20GradientBoostingClassifier(%0A%20%20%20%20%20%20%20%20n_estimators%3D100%2C%0A%20%20%20%20%20%20%20%20learning_rate%3D0.1%2C%20%20%20%20%20%20%20%20%20%23%20taux%20d'apprentissage%20(shrinkage)%0A%20%20%20%20%20%20%20%20max_depth%3D3%2C%0A%20%20%20%20%20%20%20%20subsample%3D0.8%2C%20%20%20%20%20%20%20%20%20%20%20%20%20%23%20fraction%20d'%C3%A9chantillons%20par%20arbre%0A%20%20%20%20%20%20%20%20validation_fraction%3D0.1%2C%0A%20%20%20%20%20%20%20%20n_iter_no_change%3D10%2C%20%20%20%20%20%20%20%23%20early%20stopping%0A%20%20%20%20%20%20%20%20tol%3D1e-4%0A%20%20%20%20)%0A%20%20%20%20model.fit(X_train%2C%20y_train)%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%5B%60HistGradientBoostingClassifier%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.ensemble.HistGradientBoostingClassifier.html)%20%2F%20%5B%60HistGradientBoostingRegressor%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.ensemble.HistGradientBoostingRegressor.html)%20(plus%20rapide%20pour%20grands%20datasets)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20from%20sklearn.ensemble%20import%20HistGradientBoostingClassifier%0A%0A%20%20%20%20model%20%3D%20HistGradientBoostingClassifier(%0A%20%20%20%20%20%20%20%20learning_rate%3D0.1%2C%0A%20%20%20%20%20%20%20%20max_iter%3D100%2C%20%20%20%20%20%20%20%20%20%20%20%20%20%20%23%20nombre%20de%20boosting%20iterations%0A%20%20%20%20%20%20%20%20max_depth%3DNone%2C%0A%20%20%20%20%20%20%20%20early_stopping%3D'auto'%2C%20%20%20%20%20%23%20True%2C%20False%2C%20'auto'%0A%20%20%20%20%20%20%20%20validation_fraction%3D0.1%2C%0A%20%20%20%20%20%20%20%20n_iter_no_change%3D10%2C%0A%20%20%20%20%20%20%20%20tol%3D1e-7%2C%0A%20%20%20%20%20%20%20%20l2_regularization%3D0.0%0A%20%20%20%20)%0A%20%20%20%20model.fit(X_train%2C%20y_train)%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%23%20Optionnel%20%3A%205.%20SVM%20avec%20optimiseur%20SMO%0A%0A%20%20%20%20%5B%60SVC%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.svm.SVC.html)%20%2F%20%5B%60SVR%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.svm.SVR.html)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20from%20sklearn.svm%20import%20SVC%2C%20SVR%0A%0A%20%20%20%20model%20%3D%20SVC(%0A%20%20%20%20%20%20%20%20kernel%3D'rbf'%2C%0A%20%20%20%20%20%20%20%20C%3D1.0%2C%0A%20%20%20%20%20%20%20%20gamma%3D'scale'%2C%0A%20%20%20%20%20%20%20%20max_iter%3D-1%2C%20%20%20%20%20%20%20%20%23%20-1%20%3D%20pas%20de%20limite%0A%20%20%20%20%20%20%20%20tol%3D1e-3%2C%0A%20%20%20%20%20%20%20%20shrinking%3DTrue%20%20%20%20%20%20%23%20heuristique%20d'optimisation%0A%20%20%20%20)%0A%20%20%20%20model.fit(X_train%2C%20y_train)%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%23%20Tableau%20r%C3%A9capitulatif%0A%0A%20%20%20%20%7C%20Mod%C3%A8le%20%7C%20Optimiseur(s)%20disponible(s)%20%7C%20Param%C3%A8tre%20cl%C3%A9%20%7C%0A%20%20%20%20%7C--------%7C----------------------------%7C---------------%7C%0A%20%20%20%20%7C%20%60SGDClassifier%2FRegressor%60%20%7C%20SGD%20%7C%20%60learning_rate%60%2C%20%60eta0%60%20%7C%0A%20%20%20%20%7C%20%60LogisticRegression%60%20%7C%20lbfgs%2C%20sag%2C%20saga%2C%20newton-cg%20%7C%20%60solver%60%20%7C%0A%20%20%20%20%7C%20%60MLPClassifier%2FRegressor%60%20%7C%20adam%2C%20sgd%2C%20lbfgs%20%7C%20%60solver%60%2C%20%60learning_rate_init%60%20%7C%0A%20%20%20%20%7C%20%60GradientBoosting*%60%20%7C%20Gradient%20Boosting%20%7C%20%60learning_rate%60%2C%20%60n_estimators%60%20%7C%0A%20%20%20%20%7C%20%60HistGradientBoosting*%60%20%7C%20Histogram%20Gradient%20Boosting%20%7C%20%60learning_rate%60%2C%20%60max_iter%60%20%7C%0A%20%20%20%20%7C%20%60Ridge%60%20%7C%20svd%2C%20cholesky%2C%20sag%2C%20saga%2C%20lbfgs%20%7C%20%60solver%60%20%7C%0A%20%20%20%20%7C%20%60Lasso%2FElasticNet%60%20%7C%20Coordinate%20Descent%20%7C%20%60max_iter%60%2C%20%60tol%60%20%7C%0A%20%20%20%20%7C%20%60SVC%2FSVR%60%20%7C%20SMO%20(Sequential%20Minimal%20Optimization)%20%7C%20%60max_iter%60%2C%20%60tol%60%20%7C%0A%20%20%20%20%7C%20%60LassoCV%2FRidgeCV%60%20%7C%20Cross-validation%20%2B%20solver%20%7C%20%60alphas%60%2C%20%60cv%60%20%7C%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Les%20m%C3%A9thodes%20d'optimisation%20g%C3%A9n%C3%A9ralistes%0A%0A%20%20%20%20Ces%20m%C3%A9thodes%20peuvent%20%C3%AAtre%20appliqu%C3%A9es%20%C3%A0%20**n'importe%20quel%20mod%C3%A8le**%2C%20ind%C3%A9pendamment%20de%20sa%20structure%20interne.%20Elles%20explorent%20l'espace%20des%20hyperparam%C3%A8tres%20de%20mani%C3%A8re%20intelligente%20pour%20trouver%20la%20meilleure%20configuration.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%23%20Optimisation%20avec%20%5BOptuna%5D(https%3A%2F%2Foptuna.org%2F)%0A%0A%20%20%20%20%5BOptuna%5D(https%3A%2F%2Foptuna.org%2F)%20est%20un%20framework%20d'optimisation%20bay%C3%A9sienne%20qui%20permet%20de%20trouver%20les%20meilleurs%20hyperparam%C3%A8tres%20de%20mani%C3%A8re%20plus%20efficace%20qu'un%20%60GridSearchCV%60.%0A%0A%20%20%20%20**Principe%20g%C3%A9n%C3%A9ral**%20%3A%0A%20%20%20%20-%20Optuna%20utilise%20des%20algorithmes%20d'**optimisation%20bay%C3%A9sienne**%20(par%20d%C3%A9faut%20TPE%20-%20Tree-structured%20Parzen%20Estimator)%20pour%20explorer%20intelligemment%20l'espace%20des%20hyperparam%C3%A8tres%0A%20%20%20%20-%20Contrairement%20au%20GridSearch%20qui%20teste%20toutes%20les%20combinaisons%2C%20Optuna%20**apprend**%20des%20essais%20pr%C3%A9c%C3%A9dents%20pour%20orienter%20la%20recherche%20vers%20les%20r%C3%A9gions%20les%20plus%20prometteuses%0A%20%20%20%20-%20Il%20supporte%20le%20**pruning**%20(arr%C3%AAt%20anticip%C3%A9%20des%20essais%20peu%20prometteurs)%20pour%20%C3%A9conomiser%20du%20temps%20de%20calcul%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20**Structure%20de%20base**%20%3A%0A%0A%20%20%20%20%60%60%60python%0A%20%20%20%20import%20optuna%0A%20%20%20%20from%20sklearn.model_selection%20import%20cross_val_score%0A%0A%20%20%20%20%23%201.%20D%C3%A9finir%20la%20fonction%20objectif%20%C3%A0%20optimiser%0A%20%20%20%20def%20objective(trial)%3A%0A%20%20%20%20%20%20%20%20%23%20D%C3%A9finir%20l'espace%20de%20recherche%20des%20hyperparam%C3%A8tres%0A%20%20%20%20%20%20%20%20param1%20%3D%20trial.suggest_float(%22param1%22%2C%200.01%2C%2010.0%2C%20log%3DTrue)%20%20%23%20param%C3%A8tre%20continu%20(%C3%A9chelle%20log)%0A%20%20%20%20%20%20%20%20param2%20%3D%20trial.suggest_int(%22param2%22%2C%201%2C%20100)%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%23%20param%C3%A8tre%20entier%0A%20%20%20%20%20%20%20%20param3%20%3D%20trial.suggest_categorical(%22param3%22%2C%20%5B%22a%22%2C%20%22b%22%2C%20%22c%22%5D)%20%20%23%20param%C3%A8tre%20cat%C3%A9goriel%0A%0A%20%20%20%20%20%20%20%20%23%20Cr%C3%A9er%20et%20entrainer%20le%20mod%C3%A8le%0A%20%20%20%20%20%20%20%20model%20%3D%20MonModele(param1%3Dparam1%2C%20param2%3Dparam2%2C%20param3%3Dparam3)%0A%0A%20%20%20%20%20%20%20%20%23%20Retourner%20le%20score%20%C3%A0%20optimiser%20(par%20d%C3%A9faut%20Optuna%20minimise)%0A%20%20%20%20%20%20%20%20score%20%3D%20cross_val_score(model%2C%20X_train%2C%20y_train%2C%20cv%3D5%2C%20scoring%3D%22accuracy%22)%0A%20%20%20%20%20%20%20%20return%20score.mean()%0A%0A%20%20%20%20%23%202.%20Cr%C3%A9er%20une%20%C3%A9tude%20et%20lancer%20l'optimisation%0A%20%20%20%20study%20%3D%20optuna.create_study(direction%3D%22maximize%22)%20%20%23%20ou%20%22minimize%22%20selon%20la%20m%C3%A9trique%0A%20%20%20%20study.optimize(objective%2C%20n_trials%3D100)%0A%0A%20%20%20%20%23%203.%20R%C3%A9cup%C3%A9rer%20les%20meilleurs%20param%C3%A8tres%0A%20%20%20%20print(f%22Meilleurs%20param%C3%A8tres%3A%20%7Bstudy.best_params%7D%22)%0A%20%20%20%20print(f%22Meilleur%20score%3A%20%7Bstudy.best_value%7D%22)%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20**Exemple%20%3A%20optimisation%20d'un%20RandomForestClassifier**%0A%0A%20%20%20%20%60%60%60python%0A%20%20%20%20import%20optuna%0A%20%20%20%20from%20sklearn.ensemble%20import%20RandomForestClassifier%0A%20%20%20%20from%20sklearn.model_selection%20import%20cross_val_score%0A%0A%20%20%20%20def%20objective(trial)%3A%0A%20%20%20%20%20%20%20%20%23%20Espace%20de%20recherche%20des%20hyperparam%C3%A8tres%0A%20%20%20%20%20%20%20%20n_estimators%20%3D%20trial.suggest_int(%22n_estimators%22%2C%2050%2C%20500)%0A%20%20%20%20%20%20%20%20max_depth%20%3D%20trial.suggest_int(%22max_depth%22%2C%203%2C%2020)%0A%20%20%20%20%20%20%20%20min_samples_split%20%3D%20trial.suggest_int(%22min_samples_split%22%2C%202%2C%2020)%0A%20%20%20%20%20%20%20%20min_samples_leaf%20%3D%20trial.suggest_int(%22min_samples_leaf%22%2C%201%2C%2010)%0A%20%20%20%20%20%20%20%20max_features%20%3D%20trial.suggest_categorical(%22max_features%22%2C%20%5B%22sqrt%22%2C%20%22log2%22%2C%20None%5D)%0A%0A%20%20%20%20%20%20%20%20%23%20Cr%C3%A9ation%20du%20mod%C3%A8le%20avec%20les%20hyperparam%C3%A8tres%20sugg%C3%A9r%C3%A9s%0A%20%20%20%20%20%20%20%20model%20%3D%20RandomForestClassifier(%0A%20%20%20%20%20%20%20%20%20%20%20%20n_estimators%3Dn_estimators%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20max_depth%3Dmax_depth%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20min_samples_split%3Dmin_samples_split%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20min_samples_leaf%3Dmin_samples_leaf%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20max_features%3Dmax_features%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20random_state%3D42%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20n_jobs%3D-1%0A%20%20%20%20%20%20%20%20)%0A%0A%20%20%20%20%20%20%20%20%23%20Evaluation%20par%20cross-validation%0A%20%20%20%20%20%20%20%20score%20%3D%20cross_val_score(model%2C%20X_train%2C%20y_train%2C%20cv%3D5%2C%20scoring%3D%22accuracy%22)%0A%20%20%20%20%20%20%20%20return%20score.mean()%0A%0A%20%20%20%20%23%20Cr%C3%A9ation%20de%20l'%C3%A9tude%20(on%20veut%20maximiser%20l'accuracy)%0A%20%20%20%20study%20%3D%20optuna.create_study(direction%3D%22maximize%22)%0A%0A%20%20%20%20%23%20Lancement%20de%20l'optimisation%20(100%20essais)%0A%20%20%20%20study.optimize(objective%2C%20n_trials%3D100%2C%20show_progress_bar%3DTrue)%0A%0A%20%20%20%20%23%20R%C3%A9sultats%0A%20%20%20%20print(f%22Meilleurs%20hyperparam%C3%A8tres%3A%20%7Bstudy.best_params%7D%22)%0A%20%20%20%20print(f%22Meilleure%20accuracy%3A%20%7Bstudy.best_value%3A.4f%7D%22)%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20**Entrainer%20le%20mod%C3%A8le%20final%20avec%20les%20meilleurs%20param%C3%A8tres**%20%3A%0A%0A%20%20%20%20%60%60%60python%0A%20%20%20%20%23%20R%C3%A9cup%C3%A9rer%20les%20meilleurs%20param%C3%A8tres%0A%20%20%20%20best_params%20%3D%20study.best_params%0A%0A%20%20%20%20%23%20Entrainer%20le%20mod%C3%A8le%20final%20sur%20tout%20le%20jeu%20d'entrainement%0A%20%20%20%20best_model%20%3D%20RandomForestClassifier(**best_params%2C%20random_state%3D42%2C%20n_jobs%3D-1)%0A%20%20%20%20best_model.fit(X_train%2C%20y_train)%0A%0A%20%20%20%20%23%20Evaluer%20sur%20le%20jeu%20de%20test%0A%20%20%20%20print(f%22Score%20sur%20le%20test%20set%3A%20%7Bbest_model.score(X_test%2C%20y_test)%3A.4f%7D%22)%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20**Visualisation%20des%20r%C3%A9sultats**%20%3A%0A%0A%20%20%20%20%60%60%60python%0A%20%20%20%20%23%20Historique%20de%20l'optimisation%0A%20%20%20%20optuna.visualization.plot_optimization_history(study)%0A%0A%20%20%20%20%23%20Importance%20des%20hyperparam%C3%A8tres%0A%20%20%20%20optuna.visualization.plot_param_importances(study)%0A%0A%20%20%20%20%23%20Relations%20entre%20hyperparam%C3%A8tres%0A%20%20%20%20optuna.visualization.plot_parallel_coordinate(study)%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20**Types%20de%20suggestions%20disponibles**%20%3A%0A%0A%20%20%20%20%7C%20M%C3%A9thode%20%7C%20Description%20%7C%20Exemple%20%7C%0A%20%20%20%20%7C---------%7C-------------%7C---------%7C%0A%20%20%20%20%7C%20%60suggest_float%60%20%7C%20Param%C3%A8tre%20continu%20%7C%20%60trial.suggest_float(%22lr%22%2C%201e-5%2C%201e-1%2C%20log%3DTrue)%60%20%7C%0A%20%20%20%20%7C%20%60suggest_int%60%20%7C%20Param%C3%A8tre%20entier%20%7C%20%60trial.suggest_int(%22n_layers%22%2C%201%2C%2010)%60%20%7C%0A%20%20%20%20%7C%20%60suggest_categorical%60%20%7C%20Choix%20parmi%20une%20liste%20%7C%20%60trial.suggest_categorical(%22kernel%22%2C%20%5B%22rbf%22%2C%20%22linear%22%5D)%60%20%7C%0A%20%20%20%20%7C%20%60suggest_discrete_uniform%60%20%7C%20Valeurs%20discr%C3%A8tes%20uniformes%20%7C%20%60trial.suggest_discrete_uniform(%22dropout%22%2C%200.1%2C%200.5%2C%200.1)%60%20%7C%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20A%20d%C3%A9faut%2C%20si%20vous%20n'avez%20pas%20d'autre%20m%C3%A9thodes%20d'optimisation%3A%20utilisez%20les%20m%C3%A9thode%20de%20type%20%5BGridSearchCV%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.model_selection.HalvingGridSearchCV.html%23sklearn.model_selection.HalvingGridSearchCV)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Si%20le%20mod%C3%A8le%20utilis%C3%A9%20ne%20poss%C3%A8de%20pas%20d'algorithme%20d'optimisation%20qui%20lui%20est%20applicable%20(par%20ex%2C%20la%20m%C3%A9thode%20des%20moindres%20carr%C3%A9s%2C%20applicables%20%C3%A0%20la%20r%C3%A9gression%20lin%C3%A9aire)%2C%20on%20peut%20utiliser%20par%20d%C3%A9faut%20une%20m%C3%A9thode%20de%20type%20%60GridSearchCV%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20L'id%C3%A9e%20g%C3%A9n%C3%A9rale%20est%20de%20d%C3%A9finir%20une%20grille%20de%20param%C3%A8tre%20dans%20laquelle%20votre%20**mod%C3%A8le**%20sera%20**entrain%C3%A9**%20avec%20des%20**combinaisons%20de%20param%C3%A8tres%20diff%C3%A9rentes**%2C%20sur%20une%20partition%20cross%20valid%C3%A9e%20de%20votre%20jeu%20de%20donn%C3%A9e%20d'apprentissage%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20On%20d%C3%A9finit%20au%20pr%C3%A9alable%2C%20une%20grille%20de%20param%C3%A8tres%20%C3%A0%20tester%20%3A%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20param_grid%20%3D%20%7B%0A%20%20%20%20%22param_continu_1%22%3A%20%5Bval1%2Cval2%2C...%5D%0A%20%20%20%20%22param_continu_2%22%3A%20%5Bval1%2Cval2%2C...%5D%0A%20%20%20%20%22param_discret_1%22%3A%20(%22val1%22%2C%22val2%22)%0A%20%20%20%20...%0A%20%20%20%20%7D%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Puis%20on%20peut%20entra%C3%AEne%20notre%20mod%C3%A8le%2C%20avec%20diff%C3%A9rentes%20strat%C3%A9gies%20pour%20le%20choix%20des%20combinaison%20des%20param%C3%A8tres%20utilis%C3%A9s%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Pour%20le%20%5B%60GridSearchCV%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.model_selection.GridSearchCV.html%23sklearn-model-selection-gridsearchcv)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20On%20entra%C3%AEne%20notre%20mod%C3%A8le%20de%20**mani%C3%A8re%20exhaustive**%20pour%20**chaque%20combinaison%20de%20param%C3%A8tres%20de%20la%20grille**%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20search%20%3D%20GridSearchCV(model%2C%20param_grid%2C%20refit%3DTrue%2C%20cv%3D5%2C%20...)%0A%20%20%20%20search.fit(X_train%2C%20y_train)%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Pour%20le%20%5B%60HalvingSearchCV%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.model_selection.HalvingGridSearchCV.html%23sklearn.model_selection.HalvingGridSearchCV)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Dans%20cette%20version%2C%20une%20s%C3%A9lection%20de%20param%C3%A8tres%20(candidats)%20est%20entrain%C3%A9%20de%20**mani%C3%A8re%20comp%C3%A9titive**%20en%20plusieurs%20it%C3%A9rations.%20A%20chaque%20it%C3%A9ration%2C%20seuls%20les%20**meilleurs%20candidats%20sont%20s%C3%A9lectionn%C3%A9s**%20et%20les%20**ressources%20qui%20leur%20sont%20allou%C3%A9es**%20pour%20chaque%20entra%C3%AEnement%20(en%20g%C3%A9n%C3%A9ral%20des%20%C3%A9chantillons%20du%20dataset)%20sont%20**multipli%C3%A9es%20par%20un%20facteur%20p**.%0A%0A%20%20%20%20*Pour%20plus%20de%20d%C3%A9tails%20voir%20le%20%5Buser%20guide%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.model_selection.HalvingGridSearchCV.html%23sklearn.model_selection.HalvingGridSearchCV)*%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Il%20faudra%20fixer%20certains%20hyper-param%C3%A8tres%20additionnels%20controllant%20le%20%60type%20de%20ressources%60%2C%20%60le%20nombre%20de%20candidats%20initial%60%20et%20le%20%60facteur%60%20utilis%C3%A9%20%3A%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20search%20%3D%20HalvingGridSearchCV(model%2C%20param_grid%2C%20ressource%3D'n_samples'%2C%20n_candidates%3D'exhaust'%2C%20factor%3D3)%0A%20%20%20%20search.fit(X_train%2C%20y_train)%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Pour%20le%20%5B%60RandomizedSearchCV%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.model_selection.RandomizedSearchCV.html%23sklearn.model_selection.RandomizedSearchCV)%20ou%20le%20%5BHalvingRandomSearchCV%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.model_selection.HalvingRandomSearchCV.html%23sklearn-model-selection-halvingrandomsearchcv)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20On%20entra%C3%AEne%20notre%20mod%C3%A8le%20**en%20tirant%20au%20hasard%20les%20param%C3%A8tres%20continu**%20de%20la%20grille%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20param_grid%20%3D%20%7B%0A%20%20%20%20%22param_continu_1%22%3A%20scipy.stats.expon(loc%3D0%2C%20scale%3D100)%23%20ici%20on%20tire%20au%20hasard%20des%20nombres%20entre%200%20et%20100%20suivant%20une%20loi%20exponentielle%0A%20%20%20%20%22param_discret_1%22%3A%20(%22val1%22%2C%22val2%22)%0A%20%20%20%20...%0A%20%20%20%20%7D%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20search%20%3D%20RandomizedSearchCV(model%2C%20param_grid%2C%20refit%3DTrue%2C%20cv%3D5%2C%20random_state%3D42)%0A%20%20%20%20search.fit(X_train%2C%20y_train)%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20search%20%3D%20HalvingRandomSearchCV(model%2C%20param_grid%2C%20resource%3D'n_samples'%2C%20n_candidates%3D'exhaust'%2C%20factor%3D3)%0A%20%20%20%20search.fit(X_train%2C%20y_train)%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Une%20fois%20l'optimisation%20termin%C3%A9e%2C%20on%20peut%20acc%C3%A9der%20%C3%A0%20plusieurs%20attributs%20int%C3%A9ressants%2C%20en%20particulier%20les%20param%C3%A8tres%20et%20le%20score%20de%20l'it%C3%A9ration%20du%20mod%C3%A8le%20le%20plus%20performant%3A%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20search.best_params_%0A%20%20%20%20search.best_score_%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20ou%20encore%20au%20mod%C3%A8le%20r%C3%A9-entrain%C3%A9%20avec%20les%20meilleurs%20param%C3%A8tres%20%3A%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20search.best_estimator_%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Evaluer%20un%20mod%C3%A8le%20entra%C3%AEn%C3%A9%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20une%20fois%20entrain%C3%A9%2C%20il%20est%20possible%20de%20faire%20des%20pr%C3%A9dictions%20et%20de%20calculer%20un%20score%20%3A%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20model.predict(X_test)%20%23%20predictions%20sur%20le%20jeu%20de%20test%0A%20%20%20%20model.predict_proba(X_test)%20%23%20uniquement%20pour%20certains%20mod%C3%A8les%0A%20%20%20%20model.score(X_test%2Cy_test)%20%23%20score%20calcul%C3%A9%20sur%20le%20jeu%20de%20test%0A%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20la%20m%C3%A9thode%20%60.score%60%20calcule%20une%20m%C3%A9trique%20par%20d%C3%A9faut%20(**accuracy**%20pour%20la%20classification%2C%20%24R%5E2%24%20pour%20la%20r%C3%A9gression)%2C%20mais%20il%20est%20possible%20de%20la%20changer%2C%20en%20appelant%20une%20%5Bm%C3%A9trique%20pr%C3%A9-definie%20dans%20scikit-learn%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fclasses.html%23module-sklearn.metrics)%3A%0A%0A%20%20%20%20%20par%20exemple%20si%20je%20souhaite%20utilise%20l'AUC%20%3A%0A%20%20%20%20%60%60%60python%0A%20%20%20%20from%20sklearn.metrics%20import%20auc%0A%20%20%20%20auc(X_test%2Cy_test)%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Repr%C3%A9senter%20une%20%5Bcourbe%20d'apprentissage%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fauto_examples%2Fmodel_selection%2Fplot_learning_curve.html%23plotting-learning-curves-and-checking-models-scalability)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20La%20courbe%20d'apprentissage%20est%20votre%20meilleur%20outil%20pour%20monitorer%20l'%C3%A9tat%20de%20votre%20mod%C3%A8le%20dans%20le%20compromis%20biais%2Fvariance%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20train_sizes%2C%20train_scores%2C%20test_score%20%3D%20learning_curve(model%2C%20X%2C%20y)%0A%20%20%20%20plt.plot(train_sizes%2C%20np.mean(train_scores%2C%20axis%3D1)%2C%20label%3D%22Training%22)%0A%20%20%20%20plt.plot(train_sizes%2C%20np.mean(test_scores%2C%20axis%3D1)%2C%20label%3D%22Validation%22)%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Vous%20pouvez%20utilisez%20la%20nouvelle%20classe%20%5BLearningCurveDisplay%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.model_selection.LearningCurveDisplay.html%23sklearn-model-selection-learningcurvedisplay)%20pour%20tracer%20les%20learning%20curve%20plus%20facilement%20%3A%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Il%20suffit%20de%20sp%C3%A9cifier%20le%20mod%C3%A8le%20et%20des%20param%C3%A8tres%20pour%20la%20repr%C3%A9sentation%2C%20le%20%20(%60.fit%60%20et%20le%20%60.predict%60)%20sont%20calcul%C3%A9s%20automatiquement%20par%20scikit-learn%20%3A%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(ShuffleSplit%2C%20X_train%2C%20np%2C%20y_train)%3A%0A%20%20%20%20params%20%3D%20%7B%0A%20%20%20%20%20%20%20%20%22X%22%3A%20X_train%2C%0A%20%20%20%20%20%20%20%20%22y%22%3A%20y_train%2C%0A%20%20%20%20%20%20%20%20%22train_sizes%22%3A%20np.linspace(0.1%2C%201.0%2C%205)%2C%0A%20%20%20%20%20%20%20%20%22cv%22%3A%20ShuffleSplit(n_splits%3D50%2C%20test_size%3D0.2%2C%20random_state%3D0)%2C%0A%20%20%20%20%20%20%20%20%22score_type%22%3A%20%22both%22%2C%0A%20%20%20%20%7D%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20display%20%3D%20LearningCurveDisplay.from_estimator(model%2C%20**params%2C%20...)%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20La%20classe%20affiche%20automatiquement%20la%20courbe%20d'apprentissage%20mais%20vous%20pouvez%20appelez%20la%20m%C3%A9thode%20%60.plot()%60%20pour%20personnaliser%20votre%20graphique%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%23%20Exemple%20avec%20un%20SVC%20entra%C3%AEn%C3%A9%20sur%20le%20dataset%20digits%3A%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20On%20charge%20les%20donn%C3%A9es%20et%20entra%C3%AEne%20un%20SVC%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20from%20sklearn.datasets%20import%20load_digits%0A%20%20%20%20from%20sklearn.model_selection%20import%20train_test_split%0A%20%20%20%20from%20sklearn.svm%20import%20SVC%0A%20%20%20%20_X%2C%20_y%20%3D%20load_digits(return_X_y%3DTrue)%0A%20%20%20%20X_train_1%2C%20X_test%2C%20y_train%2C%20y_test%20%3D%20train_test_split(_X%2C%20_y%2C%20test_size%3D0.1%2C%20random_state%3D42)%0A%20%20%20%20svc%20%3D%20SVC(kernel%3D'rbf'%2C%20gamma%3D0.001)%0A%20%20%20%20return%20X_train_1%2C%20svc%2C%20train_test_split%2C%20y_train%0A%0A%0A%40app.cell%0Adef%20_(X_train_1%2C%20y_train)%3A%0A%20%20%20%20import%20numpy%20as%20np%0A%20%20%20%20params_1%20%3D%20%7B'X'%3A%20X_train_1%2C%20'y'%3A%20y_train%2C%20'train_sizes'%3A%20np.linspace(0.1%2C%201.0%2C%205)%2C%20'cv'%3A%205%2C%20'score_type'%3A%20'both'%7D%0A%20%20%20%20return%20np%2C%20params_1%0A%0A%0A%40app.cell%0Adef%20_(params_1%2C%20svc)%3A%0A%20%20%20%20from%20sklearn.model_selection%20import%20LearningCurveDisplay%0A%20%20%20%20import%20matplotlib.pyplot%20as%20plt%0A%20%20%20%20_fig%2C%20_ax%20%3D%20plt.subplots()%0A%20%20%20%20LearningCurveDisplay.from_estimator(svc%2C%20**params_1%2C%20ax%3D_ax)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Utiliser%20la%20%5Bvalidation%20crois%C3%A9e%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fcross_validation.html%23cross-validation-evaluating-estimator-performance)%20pour%20%C3%A9valuer%20un%20mod%C3%A8le%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Rappelons%20qu'il%20est%20toujours%20souhaitable%20d'%C3%A9valuer%20vos%20mod%C3%A8les%20entra%C3%AEn%C3%A9s%20sur%20un%20partie%20cross%20valid%C3%A9e%20du%20data%20set%20d'apprentissage%20%60X_train%60%20(si%20vous%20avez%20assez%20de%20donn%C3%A9es)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Pour%20obtenir%20un%20score%20moins%20sensible%20aux%20probl%C3%A8me%20du%20compromis%20biais%2Fvariance%2C%20vous%20pouvez%20calculer%20un%20score%20cross%20valid%C3%A9%20avec%20la%20classe%20%5B%60cross_validate%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.model_selection.cross_validate.html%23sklearn-model-selection-cross-validate)%20ou%20%5B%60cross_val_score%60%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.model_selection.cross_val_score.html)%20%3A%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20cv_results%20%3D%20cross_validate(model%2C%20X%2C%20y%2C%20cv%3D...)%0A%20%20%20%20cv_results%5B'test_score'%5D%20%23%20la%20cl%C3%A9%20test%20score_enregistre%20le%20score%20de%20chaque%20entrainement%20cross-valid%C3%A9%0A%0A%20%20%20%20%60%60%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Am%C3%A9liorer%20les%20donn%C3%A9es%20d'entr%C3%A9es%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20La%20r%C3%A9duction%20de%20dimensionalit%C3%A9%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20La%20s%C3%A9lection%20de%20features%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20A%20venir%20%3A)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20L'ing%C3%A9nieurie%20de%20features%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20A%20venir%20%3A%20)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Pipelines%20dans%20scikit-learn%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Ce%20sont%20des%20objets%20permettant%20d'impl%C3%A9menter%20une%20cha%C3%AEne%20de%20traitements%20modularis%C3%A9s%20qui%20facilteront%20l'automatisation%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%3Cimg%20src%3D%22https%3A%2F%2Ffiledn.eu%2FlefeldrXcsSFgCcgc48eaLY%2Fimages%2Fcours_datascience_IA%2Fpipeline-scikit-learn.png%22%0A%20%20%20%20%20%20%20%20style%3D%22width%3A60%25%22%3E%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20L'objet%20pipeline%20est%20fabriqu%C3%A9%20de%20telle%20sorte%20qu'il%20h%C3%A9rite%20des%20m%C3%A9thodes%20du%20dernier%20objet%20de%20la%20s%C3%A9quence%3A%0A%20%20%20%20-%20pour%20les%20Transformers%3A%20les%20m%C3%A9thodes%20%60fit%60%20et%20%60transform%60%0A%20%20%20%20-%20pour%20les%20Modeles%3A%20les%20m%C3%A9htodes%20%60fit%60%2C%60predict%60%2C%20%60score%60%2C%20...%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20-%20A%20l'%C3%A9xecution%20du%20%60.fit%60%20de%20la%20pipeline%2C%20la%20m%C3%A9thodes%20%60.fit_transform%60%20de%20chaque%20transformer%20est%20appel%C3%A9e%2C%20pour%20le%20mod%C3%A8le%2C%20seule%20la%20m%C3%A9thode%20%60.fit%60%20est%20appel%C3%A9e%0A%20%20%20%20-%20les%20outputs%20des%20transformers%20et%20celle%20du%20mod%C3%A8le%20sont%20enregistr%C3%A9s%20dans%20la%20m%C3%A9moire%20de%20la%20pipeline%0A%20%20%20%20-%20A%20l'%C3%A9x%C3%A9cution%20de%20la%20m%C3%A9thode%20pr%C3%A9dict%2C%20seule%20les%20m%C3%A9thodes%20%60.transform%60%20des%20transformers%20sont%20appel%C3%A9es%2C%20et%20la%20m%C3%A9thode%20%60.predict%60pour%20le%20mod%C3%A8le%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Cette%20construction%20%C3%A9vite%20de%20faire%20du%20data%20leakage%20%3A)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20**Avantages**%0A%20%20%20%20-%20rend%20votre%20workflow%20plus%20facilement%20lisible%20et%20compr%C3%A9hensive%0A%20%20%20%20-%20facilite%20l'automatisation%20des%20it%C3%A9rations%20de%20votre%20cha%C3%AEne%20de%20traitement%0A%20%20%20%20-%20rend%20votre%20travail%20plus%20facilement%20reproductible%20et%20d%C3%A9ployable%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Exemples%20d'utilisation%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Nous%20utilisons%20un%20dataset%20pour%20la%20pr%C3%A9diction%20d'assurances%20de%20sant%C3%A9%20en%20fonction%20de%20diverses%20variables%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20import%20pandas%20as%20pd%0A%0A%20%20%20%20return%20(pd%2C)%0A%0A%0A%40app.cell%0Adef%20_(pd)%3A%0A%20%20%20%20data%20%3D%20pd.read_csv(%22https%3A%2F%2Ffiledn.eu%2FlefeldrXcsSFgCcgc48eaLY%2Fdatasets%2Fregression%2Fdata_insurance.csv%22)%0A%20%20%20%20return%20(data%2C)%0A%0A%0A%40app.cell%0Adef%20_(data%2C%20train_test_split)%3A%0A%20%20%20%20_X%20%3D%20data.drop(columns%3D'charges')%0A%20%20%20%20_y%20%3D%20data%5B'charges'%5D%0A%20%20%20%20X_train_2%2C%20X_test_1%2C%20y_train_1%2C%20y_test_1%20%3D%20train_test_split(_X%2C%20_y%2C%20test_size%3D0.33%2C%20random_state%3D42)%0A%20%20%20%20return%20X_test_1%2C%20X_train_2%2C%20y_test_1%2C%20y_train_1%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Nous%20allons%20r%C3%A9aliser%20les%20traitements%20suivants%2C%20**dans%20une%20m%C3%AAme%20%5Bpipeline%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fclasses.html%3Fhighlight%3Dpipeline%23module-sklearn.pipeline)**%3A%0A%20%20%20%201.%20imputation%20des%20valeurs%20manquantes%0A%20%20%20%202.%20scaling%20des%20features%20num%C3%A9riques%0A%20%20%20%203.%20encodage%20des%20features%20cat%C3%A9gorielles%0A%20%20%20%204.%20entraintement%20du%20mod%C3%A8le%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%23%20Imputation%20et%20scaling%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(X_train_2)%3A%0A%20%20%20%20from%20sklearn.pipeline%20import%20Pipeline%0A%20%20%20%20from%20sklearn.impute%20import%20SimpleImputer%0A%20%20%20%20from%20sklearn.preprocessing%20import%20StandardScaler%0A%20%20%20%20pipe%20%3D%20Pipeline(%5B('imputer'%2C%20SimpleImputer())%2C%20('scaler'%2C%20StandardScaler())%5D)%0A%20%20%20%20result%20%3D%20pipe.fit_transform(X_train_2%5B%5B'age'%5D%5D)%5B0%3A3%5D%0A%20%20%20%20return%20Pipeline%2C%20SimpleImputer%2C%20StandardScaler%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20%23%20acc%C3%A9der%20aux%20%C3%A9tapes%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%23%20%5BColumn%20transformer%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.compose.ColumnTransformer.html%23sklearn.compose.ColumnTransformer.get_feature_names_out)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Son%20r%C3%B4le%20est%20d'appliquer%20des%20traitements%20sur%20des%20colonnes%20sp%C3%A9cifiques%20qui%20vont%20se%20faire%20en%20parall%C3%A8le%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Dans%20cet%20exemple%2C%20cela%20va%20nous%20servir%20%C3%A0%20faire%20l'encodage%20des%20features%20(en%20one-hot-encoder)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(Pipeline%2C%20SimpleImputer%2C%20StandardScaler)%3A%0A%20%20%20%20from%20sklearn.preprocessing%20import%20OneHotEncoder%0A%20%20%20%20from%20sklearn.compose%20import%20ColumnTransformer%0A%0A%20%20%20%20%23%20Imputation%20et%20scaling%20des%20variables%20num%C3%A9riques%0A%20%20%20%20num_transformer%20%3D%20Pipeline(%5B%0A%20%20%20%20%20%20%20%20('imputer'%2C%20SimpleImputer())%2C%0A%20%20%20%20%20%20%20%20('scaler'%2C%20StandardScaler())%5D)%0A%0A%20%20%20%20%23%20Encodage%20de%20la%20feature%20cat%C3%A9gorielle%0A%20%20%20%20cat_transformer%20%3D%20OneHotEncoder(handle_unknown%3D'ignore')%0A%0A%20%20%20%20%23%20On%20parallelise%20les%20deux%20traitements%20%22num_transformer%22%20et%20%22cat_transformer%22%0A%20%20%20%20preprocessor%20%3D%20ColumnTransformer(%5B%0A%20%20%20%20%20%20%20%20('num_tr'%2C%20num_transformer%2C%20%5B'age'%2C'bmi'%5D)%2C%0A%20%20%20%20%20%20%20%20('cat_tr'%2C%20cat_transformer%2C%20%5B'smoker'%2C%20'region'%5D)%5D)%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20ColumnTransformer%2C%0A%20%20%20%20%20%20%20%20OneHotEncoder%2C%0A%20%20%20%20%20%20%20%20cat_transformer%2C%0A%20%20%20%20%20%20%20%20num_transformer%2C%0A%20%20%20%20%20%20%20%20preprocessor%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20%23%20visualisation%20des%20pipelines%20en%20HTML%0A%20%20%20%20from%20sklearn%20import%20set_config%3B%20set_config(display%3D'diagram')%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(X_train_2%2C%20preprocessor)%3A%0A%20%20%20%20X_train_transformed%20%3D%20preprocessor.fit_transform(X_train_2)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(SimpleImputer)%3A%0A%20%20%20%20%23%20bug%20dans%20la%20version%201.0.2%3A%20le%20transformer%20SimpleImputer%20n'a%20pas%20encore%20de%20m%C3%A9thode%20get_feature_names_out%0A%20%20%20%20SimpleImputer.get_feature_names_out%20%3D%20(lambda%20self%2C%20names%3DNone%3A%20self.feature_names_in_)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20%23%20Nouveau%20dans%20scikit-learn%201.0.2%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20la%20variable%20'children'%20n'a%20pas%20%C3%A9t%C3%A9%20trait%C3%A9e%20par%20le%20ColumnTransformer%2C%20par%20d%C3%A9faut%20elle%20n'est%20pas%20renvoy%C3%A9e%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Comme%20elle%20n'a%20pas%20besoin%20d'%C3%AAtre%20encod%C3%A9e%2C%20on%20peut%20la%20renvoyer%20telle%20quelle%20avec%20%60reminder%3D'passthrough'%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(ColumnTransformer%2C%20cat_transformer%2C%20num_transformer)%3A%0A%20%20%20%20preprocessor_1%20%3D%20ColumnTransformer(%5B('num_tr'%2C%20num_transformer%2C%20%5B'age'%2C%20'bmi'%5D)%2C%20('cat_tr'%2C%20cat_transformer%2C%20%5B'region'%2C%20'smoker'%5D)%5D%2C%20remainder%3D'passthrough')%0A%20%20%20%20preprocessor_1%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20On%20peut%20%C3%A9galement%20appliquer%20dans%20une%20pipeline%20des%20fonctions%20quelconque%20en%20les%20encapsulant%20grace%20%C3%A0%20%5BFunctionTransformer%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.preprocessing.FunctionTransformer.html%3Fhighlight%3Dfunction%2520transformer%23sklearn.preprocessing.FunctionTransformer).%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Cr%C3%A9ons%20un%20Transformer%20pour%20arrondir%20les%20donn%C3%A9es%20dans%20notre%20dataframe%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(np)%3A%0A%20%20%20%20from%20sklearn.preprocessing%20import%20FunctionTransformer%0A%20%20%20%20rounder%20%3D%20FunctionTransformer(lambda%20array%3A%20np.round(array%2C%20decimals%3D2))%0A%20%20%20%20rounder.get_feature_names_out%20%3D%20(lambda%20self%2C%20names%3DNone%3A%20self.feature_names_in_)%0A%20%20%20%20return%20FunctionTransformer%2C%20rounder%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20ColumnTransformer%2C%0A%20%20%20%20Pipeline%2C%0A%20%20%20%20SimpleImputer%2C%0A%20%20%20%20StandardScaler%2C%0A%20%20%20%20cat_transformer%2C%0A%20%20%20%20rounder%2C%0A)%3A%0A%20%20%20%20num_transformer_1%20%3D%20Pipeline(%5B('imputer'%2C%20SimpleImputer())%2C%20('scaler'%2C%20StandardScaler())%2C%20('rounder'%2C%20rounder)%5D)%0A%20%20%20%20preprocessor_2%20%3D%20ColumnTransformer(%5B('num_tr'%2C%20num_transformer_1%2C%20%5B'bmi'%2C%20'age'%5D)%2C%20('cat_tr'%2C%20cat_transformer%2C%20%5B'region'%2C%20'smoker'%5D)%5D%2C%20remainder%3D'passthrough')%0A%20%20%20%20preprocessor_2%0A%20%20%20%20return%20(preprocessor_2%2C)%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20%5BFeatureUnion%5D(https%3A%2F%2Fscikit-learn.org%2Fstable%2Fmodules%2Fgenerated%2Fsklearn.pipeline.FeatureUnion.html%3Fhighlight%3Dfeatureunion%23sklearn.pipeline.FeatureUnion)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Permet%20d'appliquer%20des%20**transformers%20en%20parall%C3%A8le**%20et%20de%20**concatener%20l'output**%20de%20chaque%20transformer%20%C3%A0%20notre%20data%20set%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Cela%20peut%20%C3%AAtre%20utile%20pour%20cr%C3%A9er%20de%20nouvelles%20features%20et%20les%20ajouter%20au%20dataset%3A%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(FunctionTransformer%2C%20pd%2C%20preprocessor_2)%3A%0A%20%20%20%20from%20sklearn.pipeline%20import%20FeatureUnion%0A%20%20%20%20bmi_age_ratio%20%3D%20FunctionTransformer(lambda%20df%3A%20pd.DataFrame(df%5B'bmi'%5D%20%2F%20df%5B'age'%5D))%0A%20%20%20%20%23%20On%20cr%C3%A9e%20une%20nouvelle%20variable%20en%20en%20multipliant%20deux%20%0A%20%20%20%20union%20%3D%20FeatureUnion(%5B('preprocess'%2C%20preprocessor_2)%2C%20('bmi_age_ratio'%2C%20bmi_age_ratio)%5D)%0A%20%20%20%20union%20%20%23%20colonnes%200-8%20%20%23%20nouvelle%20colonne%209%0A%20%20%20%20return%20(bmi_age_ratio%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Quelques%20raccourcis%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20from%20sklearn.pipeline%20import%20make_pipeline%0A%20%20%20%20from%20sklearn.pipeline%20import%20make_union%0A%20%20%20%20from%20sklearn.compose%20import%20make_column_transformer%0A%0A%20%20%20%20return%20make_column_transformer%2C%20make_pipeline%2C%20make_union%0A%0A%0A%40app.cell%0Adef%20_(Pipeline%2C%20SimpleImputer%2C%20StandardScaler%2C%20make_pipeline)%3A%0A%20%20%20%20_pipe1%20%3D%20Pipeline(%5B%0A%20%20%20%20%20%20%20%20('my_name_for_imputer'%2C%20SimpleImputer())%2C%0A%20%20%20%20%20%20%20%20('my_name_for_scaler'%2C%20StandardScaler())%0A%20%20%20%20%5D)%0A%0A%20%20%20%20%23%20est%20%C3%A9quivalent%20%C3%A0%3A%0A%20%20%20%20_pipe2%20%3D%20make_pipeline(SimpleImputer()%2C%20StandardScaler())%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20OneHotEncoder%2C%0A%20%20%20%20SimpleImputer%2C%0A%20%20%20%20StandardScaler%2C%0A%20%20%20%20bmi_age_ratio%2C%0A%20%20%20%20make_column_transformer%2C%0A%20%20%20%20make_pipeline%2C%0A%20%20%20%20make_union%2C%0A)%3A%0A%20%20%20%20num_transformer_2%20%3D%20make_pipeline(SimpleImputer()%2C%20StandardScaler())%0A%20%20%20%20cat_transformer_1%20%3D%20OneHotEncoder()%0A%20%20%20%20_preproc_basic%20%3D%20make_column_transformer((num_transformer_2%2C%20%5B'age'%2C%20'bmi'%5D)%2C%20(cat_transformer_1%2C%20%5B'smoker'%2C%20'region'%5D)%2C%20remainder%3D'passthrough')%0A%20%20%20%20_preproc_full%20%3D%20make_union(_preproc_basic%2C%20bmi_age_ratio)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20On%20aurait%20pu%20aussi%20utiliser%20%60make_column_selector%60%20pour%20s%C3%A9lectionner%20les%20colonnes%20%C3%A0%20traiter%20par%20leur%20%60dtype%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20from%20sklearn.compose%20import%20make_column_selector%0A%20%20%20%20_num_col%20%3D%20make_column_selector(dtype_include%3D%5B'float64'%5D)%0A%20%20%20%20_cat_col%20%3D%20make_column_selector(dtype_include%3D%5B'object'%2C%20'bool'%5D)%0A%20%20%20%20return%20(make_column_selector%2C)%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20OneHotEncoder%2C%0A%20%20%20%20SimpleImputer%2C%0A%20%20%20%20StandardScaler%2C%0A%20%20%20%20bmi_age_ratio%2C%0A%20%20%20%20make_column_selector%2C%0A%20%20%20%20make_column_transformer%2C%0A%20%20%20%20make_pipeline%2C%0A%20%20%20%20make_union%2C%0A)%3A%0A%20%20%20%20num_transformer_3%20%3D%20make_pipeline(SimpleImputer()%2C%20StandardScaler())%0A%20%20%20%20_num_col%20%3D%20make_column_selector(dtype_include%3D%5B'float64'%5D)%0A%20%20%20%20cat_transformer_2%20%3D%20OneHotEncoder()%0A%20%20%20%20_cat_col%20%3D%20make_column_selector(dtype_include%3D%5B'object'%2C%20'bool'%5D)%0A%20%20%20%20_preproc_basic%20%3D%20make_column_transformer((num_transformer_3%2C%20_num_col)%2C%20(cat_transformer_2%2C%20_cat_col)%2C%20remainder%3D'passthrough')%0A%20%20%20%20_preproc_full%20%3D%20make_union(_preproc_basic%2C%20bmi_age_ratio)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Rajoutons%20l'entrainement%20du%20mod%C3%A8le%20%C3%A0%20notre%20pipeline%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%23%20Rajout%20d'un%20mod%C3%A8le%20Ridge%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20OneHotEncoder%2C%0A%20%20%20%20SimpleImputer%2C%0A%20%20%20%20StandardScaler%2C%0A%20%20%20%20make_column_selector%2C%0A%20%20%20%20make_column_transformer%2C%0A%20%20%20%20make_pipeline%2C%0A)%3A%0A%20%20%20%20from%20sklearn.linear_model%20import%20Ridge%0A%20%20%20%20num_transformer_4%20%3D%20make_pipeline(SimpleImputer()%2C%20StandardScaler())%0A%20%20%20%20%23%20Pipeline%20de%20preprocessing%0A%20%20%20%20cat_transformer_3%20%3D%20OneHotEncoder()%0A%20%20%20%20preproc%20%3D%20make_column_transformer((num_transformer_4%2C%20make_column_selector(dtype_include%3D%5B'float64'%5D))%2C%20(cat_transformer_3%2C%20make_column_selector(dtype_include%3D%5B'object'%2C%20'bool'%5D))%2C%20remainder%3D'passthrough')%0A%20%20%20%20pipe_1%20%3D%20make_pipeline(preproc%2C%20Ridge())%0A%20%20%20%20%23%20Ajout%20du%20mod%C3%A8le%0A%20%20%20%20pipe_1%0A%20%20%20%20return%20Ridge%2C%20pipe_1%2C%20preproc%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%23%20Entrainement%20et%20r%C3%A9sultats%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(X_test_1%2C%20X_train_2%2C%20pipe_1%2C%20y_test_1%2C%20y_train_1)%3A%0A%20%20%20%20from%20sklearn.model_selection%20import%20cross_val_score%0A%20%20%20%20%23%20Preprocessing%20et%20entrainement%20du%20mod%C3%A8le%0A%20%20%20%20pipe_1.fit(X_train_2%2C%20y_train_1)%0A%20%20%20%20_predictions%20%3D%20pipe_1.predict(X_test_1.iloc%5B0%3A2%5D)%0A%20%20%20%20_cv_score%20%3D%20cross_val_score(pipe_1%2C%20X_train_2%2C%20y_train_1%2C%20cv%3D5%2C%20scoring%3D'r2').mean()%0A%20%20%20%20_test_score%20%3D%20pipe_1.score(X_test_1%2C%20y_test_1)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Grid%20Search%20dans%20une%20pipeline%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20On%20veut%20v%C3%A9rifier%20quelle%20combinaison%20des%20param%C3%A8tres%20du%20pr%C3%A9processing%20et%20de%20l'entrainement%20donne%20les%20meilleurs%20r%C3%A9sultats%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20On%20peut%20pour%20cela%20faire%20un%20GridSearch%20sur%20n'importe%20quelle%20composant%20de%20la%20pipeline%2C%20avec%20la%20syntaxe%20%3A%0A%20%20%20%20%60nom_etape__nom_transformer__nom_hyperparam%60%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20from%20sklearn.model_selection%20import%20GridSearchCV%0A%20%20%20%20%23%20On%20peut%20afficher%20tous%20les%20param%C3%A8tres%20de%20tout%20les%20composants%20de%20la%20pipeline%0A%20%20%20%20return%20(GridSearchCV%2C)%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(GridSearchCV%2C%20X_train_2%2C%20pipe_1%2C%20y_train_1)%3A%0A%20%20%20%20grid_search%20%3D%20GridSearchCV(pipe_1%2C%20param_grid%3D%7B'columntransformer__pipeline__simpleimputer__strategy'%3A%20%5B'mean'%2C%20'median'%5D%2C%20'ridge__alpha'%3A%20%5B0.1%2C%200.5%2C%201%2C%205%2C%2010%5D%7D%2C%20cv%3D5%2C%20scoring%3D'r2')%0A%20%20%20%20grid_search.fit(X_train_2%2C%20y_train_1)%0A%20%20%20%20%23%20entraine%20toute%20la%20pipeline%20et%20la%20r%C3%A9-entraine%20avec%20les%20meilleurs%20param%C3%A8tres%20trouv%C3%A9s%0A%20%20%20%20return%20(grid_search%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20On%20enregistre%20la%20pipeline%20entrain%C3%A9e%20avec%20les%20meilleurs%20estimateurs%3A%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(grid_search)%3A%0A%20%20%20%20pipe_tuned%20%3D%20grid_search.best_estimator_%0A%20%20%20%20return%20(pipe_tuned%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Mettre%20des%20transformations%20en%20cache%20pour%20economiser%20du%20temps%20de%20calcul%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Certaines%20op%C3%A9rations%20d'une%20pipeline%20peuvent%20%C3%AAtre%20mise%20en%20cache%20afin%20de%20ne%20pas%20%C3%AAtre%20recalcul%C3%A9s%3A%0A%20%20%20%20-%20les%20calculs%20des%20hyperparm%C3%A8tres%20du%20mod%C3%A8le%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(Ridge%2C%20make_pipeline%2C%20preproc)%3A%0A%20%20%20%20from%20tempfile%20import%20mkdtemp%0A%20%20%20%20from%20shutil%20import%20rmtree%0A%20%20%20%20cachedir%20%3D%20mkdtemp()%0A%20%20%20%20%23%20Create%20a%20temp%20folder%0A%20%20%20%20pipe_2%20%3D%20make_pipeline(preproc%2C%20Ridge()%2C%20memory%3Dcachedir)%0A%20%20%20%20%23%20Instantiate%20the%20pipeline%20with%20cache%20parameter%0A%20%20%20%20%23%20Clear%20the%20cache%20directory%20after%20the%20cross-validation%0A%20%20%20%20rmtree(cachedir)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20D%C3%A9buger%20sa%20pipeline%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20%23%20acceder%20a%20chacun%20des%20composants%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20%23%20v%C3%A9rifier%20une%20%C3%A9tape%20interm%C3%A9diaire%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Etapes%20finales%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Exporter%20sa%20pipeline%20entrain%C3%A9e%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Une%20fois%20votre%20chaine%20de%20traitement%20ex%C3%A9cut%C3%A9e%2C%20vous%20avez%20inter%C3%AAt%20%C3%A0%20sauvegarder%20l'ensemble%20de%20ses%20traitements.%20Elle%20peut%20%C3%AAtre%20ensuite%20recharg%C3%A9e%2C%20pour%20faire%20d'autres%20iterations%2C%20ou%20la%20d%C3%A9ployer.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Par%20exemple%2C%20je%20peux%20sauvegarder%20ma%20pipeline%20compl%C3%A8te%20de%20traitement%20et%20la%20recharger%20plus%20tard%20pour%20faire%20des%20pr%C3%A9dictions%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(X_test_1%2C%20pipe_tuned%2C%20y_test_1)%3A%0A%20%20%20%20%23%20le%20module%20pickle%20de%20python%20permet%20de%20sauvegarder%20n'importe%20quel%20objet%0A%20%20%20%20import%20pickle%0A%20%20%20%20from%20pathlib%20import%20Path%0A%20%20%20%20import%20os%0A%0A%20%20%20%20export_path%20%3D%20Path('%2Fhome%2Fnico%2Fcode%2Fdemos%2F')%0A%0A%20%20%20%20%23%20exporter%20la%20pipeline%0A%20%20%20%20with%20open(os.path.join(export_path%2C%20'pipeline.pkl')%2C%20'wb')%20as%20file%3A%0A%20%20%20%20%20%20%20%20pickle.dump(pipe_tuned%2C%20file)%0A%0A%20%20%20%20%23%20recharger%20la%20pipeline%0A%20%20%20%20my_pipeline%20%3D%20pickle.load(open(os.path.join(export_path%2C%20'pipeline.pkl')%2C%20'rb'))%0A%0A%20%20%20%20%23%20faire%20une%20pr%C3%A9diction%20avec%20la%20pipeline%20entrain%C3%A9e%0A%20%20%20%20_score%20%3D%20my_pipeline.score(X_test_1%2C%20y_test_1)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20ToDo%3A%20ajouter%20exemple%20avec%20mlflow%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20ToDo%3A%20AutoML%20demos%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20import%20marimo%20as%20mo%0A%0A%20%20%20%20return%20(mo%2C)%0A%0A%0Aif%20__name__%20%3D%3D%20%22__main__%22%3A%0A%20%20%20%20app.run()%0A