%22%22%22How%20to%20Visualize%20Optimization%20History.%0A%0APlot%20optimization%20progress%20and%20parameter%20relationships%20from%20a%20completed%20search.%0A%22%22%22%0A%0A%23%20%2F%2F%2F%20script%0A%23%20requires-python%20%3D%20%22%3E%3D3.11%22%0A%23%20dependencies%20%3D%20%5B%0A%23%20%20%20%20%20%22optuna%22%2C%0A%23%20%20%20%20%20%22plotly%22%2C%0A%23%20%20%20%20%20%22scikit-learn%22%2C%0A%23%20%20%20%20%20%22sklearn-optuna%22%2C%0A%23%20%5D%0A%23%20%2F%2F%2F%0A%0Aimport%20marimo%0A%0A__generated_with%20%3D%20%220.19.9%22%0Aapp%20%3D%20marimo.App(width%3D%22medium%22)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20import%20marimo%20as%20mo%0A%0A%20%20%20%20return%20(mo%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20import%20optuna%0A%20%20%20%20from%20optuna.distributions%20import%20FloatDistribution%2C%20IntDistribution%0A%20%20%20%20from%20sklearn.datasets%20import%20make_classification%0A%20%20%20%20from%20sklearn.ensemble%20import%20RandomForestClassifier%0A%0A%20%20%20%20from%20sklearn_optuna%20import%20OptunaSearchCV%0A%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20IntDistribution%2C%0A%20%20%20%20%20%20%20%20OptunaSearchCV%2C%0A%20%20%20%20%20%20%20%20RandomForestClassifier%2C%0A%20%20%20%20%20%20%20%20make_classification%2C%0A%20%20%20%20%20%20%20%20optuna%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(%22%22%22%0A%20%20%20%20%23%20How%20to%20Visualize%20Optimization%20History%0A%0A%20%20%20%20This%20notebook%20shows%20how%20to%20retrieve%20the%20Optuna%20%60study_%60%20from%20a%0A%20%20%20%20completed%20%60OptunaSearchCV%60%20and%20plot%20optimization%20history%20and%0A%20%20%20%20parameter%20contours.%0A%0A%20%20%20%20**Prerequisites%3A**%20Familiarity%20with%20the%0A%20%20%20%20OptunaSearchCV%20quickstart%0A%20%20%20%20(%5BView%5D(%2Fexamples%2Fquickstart%2F)%20%C2%B7%20%5BOpen%20in%20marimo%5D(%2Fexamples%2Fquickstart%2Fedit%2F)).%20Plotly%20is%0A%20%20%20%20used%20for%20interactive%20plots.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(make_classification)%3A%0A%20%20%20%20%23%20Setup%20data%0A%20%20%20%20X%2C%20y%20%3D%20make_classification(n_samples%3D200%2C%20n_features%3D5%2C%20random_state%3D42)%0A%20%20%20%20return%20X%2C%20y%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(%22%22%22%0A%20%20%20%20%23%23%201.%20Run%20a%20Search%0A%0A%20%20%20%20Run%20a%20search%20with%20enough%20trials%20to%20produce%20meaningful%20plots.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(IntDistribution%2C%20OptunaSearchCV%2C%20RandomForestClassifier%2C%20X%2C%20y)%3A%0A%20%20%20%20search%20%3D%20OptunaSearchCV(%0A%20%20%20%20%20%20%20%20RandomForestClassifier(n_jobs%3D1)%2C%0A%20%20%20%20%20%20%20%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22n_estimators%22%3A%20IntDistribution(10%2C%2050%2C%20step%3D10)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22max_depth%22%3A%20IntDistribution(2%2C%2010%2C%20log%3DTrue)%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20n_trials%3D15%2C%0A%20%20%20%20)%0A%20%20%20%20search.fit(X%2C%20y)%0A%20%20%20%20return%20(search%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(%22%22%22%0A%20%20%20%20%23%23%202.%20Plot%20the%20Results%0A%0A%20%20%20%20Pass%20%60search.study_%60%20to%20Optuna's%20visualization%20functions.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(optuna%2C%20search)%3A%0A%20%20%20%20fig_history%20%3D%20optuna.visualization.plot_optimization_history(search.study_)%0A%20%20%20%20fig_history%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(%22%22%22%0A%20%20%20%20Plot%20the%20parameter%20contour%20to%20identify%20high-performing%20regions.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(optuna%2C%20search)%3A%0A%20%20%20%20fig_contour%20%3D%20optuna.visualization.plot_contour(search.study_)%0A%20%20%20%20fig_contour%0A%20%20%20%20return%0A%0A%0Aif%20__name__%20%3D%3D%20%22__main__%22%3A%0A%20%20%20%20app.run()%0A
1a4645266c0653a3935388e284bd27c4