آموزش بهینه سازی فراپارامتر برای یادگیری ماشین

Hyperparameter Optimization for Machine Learning

نکته: آخرین آپدیت رو دریافت میکنید حتی اگر این محتوا بروز نباشد.
نمونه ویدیوها:
توضیحات دوره: جستجوی شبکه ای و تصادفی، بهینه سازی بیزی، مدل های چند وفاداری، Optuna، Hyperopt، Scikit-Optimize و موارد دیگر را بیاموزید. تنظیم فراپارامتر و چرایی اهمیت آن اعتبار سنجی متقاطع و اعتبارسنجی متقابل تودرتو تنظیم فراپارامتر با شبکه و جستجوی تصادفی برآوردگرهای Parzen بهینه سازی درختی بیزی، آموزش مبتنی بر جمعیت و ابزارهای تنظیم فراپارامتر SMAC، به عنوان مثال، Hyperopt، Optunar-Turunazek، S. و دیگران پیش نیازها: برنامه نویسی پایتون شامل دانش NumPy، Pandas و Scikit-learn آشنایی با الگوریتم های یادگیری ماشین پایه، یعنی رگرسیون، ماشین های بردار پشتیبان و نزدیک ترین همسایه ها آشنایی با الگوریتم های درخت تصمیم و جنگل های تصادفی آشنایی با گرادیان iost. , xgboost, lightGBMs درک معیارهای ارزیابی مدل یادگیری ماشینی آشنایی با شبکه های عصبی

به Hyperparameter Optimization برای یادگیری ماشین خوش آمدید. در این دوره، تکنیک های متعددی را برای انتخاب بهترین هایپرپارامترها و بهبود عملکرد مدل های یادگیری ماشینی خود خواهید آموخت.


اگر به طور مرتب مدل های یادگیری ماشین را به عنوان سرگرمی یا برای سازمان خود آموزش می دهید و می خواهید عملکرد مدل های خود را بهبود ببخشید، اگر مایلید در رقابت های علمی داده به رتبه برتر بپرید، یا به سادگی می خواهید در مورد نحوه تنظیم فراپارامترهای مدل های یادگیری ماشین بیشتر بیاموزید، این دوره به شما نشان می دهد که چگونه.


ما شما را گام به گام از طریق آموزش های ویدئویی جذاب راهنمایی می کنیم و هر آنچه را که در مورد تنظیم هایپرپارامتر باید بدانید را به شما آموزش می دهیم. در طول این دوره جامع، تقریباً همه رویکردهای موجود برای بهینه‌سازی هایپرپارامترها را پوشش می‌دهیم، در مورد منطق آنها، مزایا و کاستی‌های آنها، ملاحظاتی که باید در هنگام استفاده از این تکنیک و اجرای آنها در پایتون داشته باشیم، بحث می‌کنیم.


به طور خاص، یاد خواهید گرفت:


  • هیپرپارامترها چیست و چرا تنظیم اهمیت دارد

  • استفاده از اعتبارسنجی متقابل و اعتبارسنجی متقابل تودرتو برای بهینه‌سازی

  • جستجوی شبکه ای و جستجوی تصادفی برای فراپارامترها

  • بهینه سازی بیزی

  • برآورنده های Parzen با ساختار درختی

  • SMAC، بهینه سازی مبتنی بر جمعیت و سایر الگوریتم های SMBO

  • نحوه پیاده‌سازی این تکنیک‌ها با بسته‌های منبع باز موجود از جمله Hyperopt، Optuna، Scikit-optimize، Keras Turner و موارد دیگر.


در پایان دوره، می‌توانید تصمیم بگیرید که کدام رویکرد را می‌خواهید دنبال کنید و آن را با کتابخانه‌های منبع باز موجود انجام دهید.


این دوره جامع یادگیری ماشینی شامل بیش از 50 سخنرانی است که حدود 8 ساعت ویدیو را شامل می‌شود، و همه موضوعات شامل نمونه‌های عملی کد پایتون است که می‌توانید برای مرجع و تمرین استفاده کنید و در پروژه‌های خود مجدداً استفاده کنید.


پس منتظر چه چیزی هستید؟ همین امروز ثبت نام کنید، یاد بگیرید که چگونه فراپارامترهای مدل های خود را تنظیم کنید و مدل های یادگیری ماشین بهتری بسازید.


سرفصل ها و درس ها

معرفی Introduction

  • معرفی Introduction

  • برنامه درسی دوره Course curriculum

  • هدف دوره و دانش مورد نیاز Course aim and knowledge requirements

  • مطالب دوره Course material

  • نوت بوک های Jupyter Jupyter notebooks

  • ارائه ها Presentations

  • مجموعه داده ها Datasets

  • رایانه خود را راه اندازی کنید - بسته های مورد نیاز Set up your computer - required packages

  • سوالات متداول FAQ

معرفی Introduction

تنظیم فراپارامتر - نمای کلی Hyperparameter Tuning - Overview

  • پارامترها و فراپارامترها Parameters and Hyperparameters

  • بهینه سازی هایپرپارامتر Hyperparameter Optimization

تنظیم فراپارامتر - نمای کلی Hyperparameter Tuning - Overview

معیارهای عملکرد Performance metrics

  • معیارهای عملکرد - مقدمه Performance Metrics - Introduction

  • معیارهای طبقه بندی (اختیاری) Classification Metrics (Optional)

  • معیارهای رگرسیون (اختیاری) Regression Metrics (Optional)

  • معیارهای یادگیری Scikit Scikit-learn metrics

  • ایجاد معیارهای خود Creating your own metrics

  • استفاده از معیارهای Scikit-Learn Using Scikit-learn metrics

معیارهای عملکرد Performance metrics

اعتبار سنجی متقابل Cross-Validation

  • اعتبار سنجی متقابل Cross-Validation

  • تعصب در مقابل واریانس (اختیاری) Bias vs Variance (Optional)

  • طرح های اعتبار سنجی متقابل Cross-Validation schemes

  • تخمین خطای تعمیم مدل با CV - Demo Estimating the model generalization error with CV - Demo

  • اعتبار سنجی متقابل برای تنظیم فراپارامتر - نسخه نمایشی Cross-Validation for Hyperparameter Tuning - Demo

  • طرح های ویژه اعتبار سنجی متقابل Special Cross-Validation schemes

  • اعتبارسنجی متقابل گروهی - نسخه ی نمایشی Group Cross-Validation - Demo

  • Nested Cross-Validation Nested Cross-Validation

  • Nested Cross-Validation - نسخه نمایشی Nested Cross-Validation - Demo

اعتبار سنجی متقابل Cross-Validation

الگوریتم های جستجوی پایه Basic Search Algorithms

  • الگوریتم های جستجوی پایه - مقدمه Basic Search Algorithms - Introduction

  • جستجوی دستی Manual Search

  • جستجوی شبکه Grid Search

  • جستجوی شبکه - نسخه ی نمایشی Grid Search - Demo

  • جستجوی شبکه ای با فضاهای فراپارامترهای مختلف Grid Search with different hyperparameter spaces

  • جستجوی تصادفی Random Search

  • جستجوی تصادفی با Scikit-learn Random Search with Scikit-learn

  • جستجوی تصادفی با Scikit-Optimize Random Search with Scikit-Optimize

  • جستجوی تصادفی با Hyperopt Random Search with Hyperopt

  • نمونه های بیشتر More examples

الگوریتم های جستجوی پایه Basic Search Algorithms

بهینه سازی بیزی Bayesian Optimization

  • جستجوی متوالی Sequential Search

  • بهینه سازی بیزی Bayesian Optimization

  • استنباط بیزی - مقدمه Bayesian Inference - Introduction

  • احتمالات مشترک و مشروط Joint and Conditional Probabilities

  • قانون بیز Bayes Rule

  • بهینه سازی متوالی مبتنی بر مدل Sequential Model-Based Optimization

  • توزیع گاوسی Gaussian Distribution

  • توزیع گاوسی چند متغیره Multivariate Gaussian Distribution

  • فرآیند گاوسی Gaussian Process

  • هسته ها Kernels

  • توابع اکتساب Acquisition Functions

  • منابع خواندنی اضافی Additional Reading Resources

  • Scikit-Optimize - 1-Dimension Scikit-Optimize - 1-Dimension

  • Scikit-Optimize - جستجوی دستی Scikit-Optimize - Manual Search

  • Scikit-Optimize - جستجوی خودکار Scikit-Optimize - Automatic Search

  • Scikit-Optimize - هسته جایگزین Scikit-Optimize - Alternative Kernel

  • Scikit-Optimize - شبکه های عصبی Scikit-Optimize - Neuronal Networks

  • Scikit-Optimize - CNN - تجزیه و تحلیل جستجو Scikit-Optimize - CNN - Search Analysis

بهینه سازی بیزی Bayesian Optimization

سایر الگوریتم های SMBO Other SMBO Algorithms

  • سایر الگوریتم های SMBO Other SMBO Algorithms

  • SMAC SMAC

  • نسخه ی نمایشی SMAC SMAC Demo

  • برآوردگرهای Parzen با ساختار درختی - TPE Tree-structured Parzen Estimators - TPE

  • روش TPE TPE Procedure

  • هایپرپارامترهای TPE TPE hyperparameters

  • TPE - چرا ساختار درختی؟ TPE - why tree-structured?

  • TPE با Hyperopt TPE with Hyperopt

  • بحث: بهینه سازی بیزی و جستجوی پایه Discussion: Bayesian Optimization and Basic Search

سایر الگوریتم های SMBO Other SMBO Algorithms

بهینه سازی چند وفاداری Multi-fidelity Optimization

  • بهینه سازی چند وفاداری Multi-fidelity Optimization

  • نصف شدن پی در پی Successive Halving

  • هایپرباند Hyperband

  • BOHB BOHB

بهینه سازی چند وفاداری Multi-fidelity Optimization

Scikit-Optimize Scikit-Optimize

  • Scikit-Optimize Scikit-Optimize

  • محتوای بخش Section content

  • توزیع های فراپارامتر Hyperparameter Distributions

  • تعریف فضای فراپارامتر Defining the hyperparameter space

  • تعریف تابع هدف Defining the objective function

  • جستجوی تصادفی Random search

  • جستجوی بیزی با فرآیندهای گاوسی Bayesian search with Gaussian processes

  • جستجوی بیزی با جنگل های تصادفی Bayesian search with Random Forests

  • جستجوی بیزی با GBM Bayesian search with GBMs

  • موازی سازی جستجوی بیزی Parallelizing a Bayesian search

  • جستجوی بیزی با لفاف Scikit-learn Bayesian search with Scikit-learn wrapper

  • تغییر هسته فرآیند گاوسی Changing the kernel of a Gaussian Process

  • بهینه سازی xgboost Optimizing xgboost

  • بهینه سازی فراپارامترهای یک CNN Optimizing Hyperparameters of a CNN

  • تجزیه و تحلیل جستجوی CNN Analyzing the CNN search

Scikit-Optimize Scikit-Optimize

هایپراپت Hyperopt

  • هایپراپت Hyperopt

  • محتوای بخش Section content

  • پیکربندی و توزیع فضای جستجو Search space configuration and distributions

  • نمونه برداری از فضاهای تو در تو Sampling from nested spaces

  • الگوریتم های جستجو Search algorithms

  • ارزیابی جستجو Evaluating the search

  • بهینه سازی چندین مدل ML به طور همزمان Optimizing multiple ML models simultaneously

  • بهینه سازی فراپارامترهای یک CNN Optimizing Hyperparameters of a CNN

  • منابع References

هایپراپت Hyperopt

Optuna Optuna

  • Optuna Optuna

  • توابع اصلی Optuna Optuna main functions

  • محتوای بخش Section content

  • الگوریتم های جستجو Search algorithms

  • بهینه سازی چندین مدل ML به طور همزمان Optimizing multiple ML models with simultaneously

  • بهینه سازی هایپرپارامترهای یک CNN Optimizing hyperparameters of a CNN

  • بهینه سازی CNN - تمدید شد Optimizing a CNN - extended

  • ارزیابی جستجو با توابع داخلی Optuna Evaluating the search with Optuna's built in functions

  • منابع References

  • نمونه های بیشتر More examples

Optuna Optuna

حرکت رو به جلو Moving Forward

  • تبریک می گویم Congratulations

  • سخنرانی پاداش Bonus Lecture

حرکت رو به جلو Moving Forward

نمایش نظرات

آموزش بهینه سازی فراپارامتر برای یادگیری ماشین
جزییات دوره
10 hours
103
Udemy (یودمی) Udemy (یودمی)
(آخرین آپدیت)
6,185
4.7 از 5
ندارد
دارد
دارد
Soledad Galli
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Soledad Galli Soledad Galli

دانشمند داده | مربی | توسعه دهنده نرم افزار