آموزش یادگیری عمیق با پایتون: بهینه‌سازی مدل‌های یادگیری عمیق - آخرین آپدیت

مقدمه Introduction

• بهینه‌سازی مدل‌های یادگیری عمیق Optimizing deep learning models

• پیش‌نیازهای لازم What you should know

• استفاده از فایل‌های تمرینی Using the exercise files

1. بهینه‌سازی مدل‌های یادگیری عمیق 1. Optimizing Deep Learning Models

• اهمیت بهینه‌سازی مدل‌های یادگیری عمیق The importance of optimizing deep learning models

2. تکنیک‌های منظم‌سازی (Regularization) 2. Regularization Techniques

• توازن بین بایاس و واریانس (Bias-Variance Trade-off) The bias-variance trade-off

• اعمال منظم‌سازی L2 بر روی مدل یادگیری عمیق Applying L2 regularization to a deep learning model

• منظم‌سازی Lasso و Ridge Lasso and ridge regularization

• منظم‌سازی Dropout Dropout regularization

• منظم‌سازی Elastic Net Elastic Net regularization

• اعمال منظم‌سازی Dropout بر روی مدل یادگیری عمیق Applying dropout regularization to a deep learning model

• اعمال منظم‌سازی L1 بر روی مدل یادگیری عمیق Applying L1 regularization to a deep learning model

3. توابع زیان و الگوریتم‌های بهینه‌سازی 3. Loss Functions and Optimization Algorithms

• توابع زیان رایج در یادگیری عمیق Common loss functions in deep learning

• الگوریتم گرادیان تطبیقی (AdaGrad) Adaptive Gradient Algorithm (AdaGrad)

• گرادیان نزولی دسته‌ای (Batch Gradient Descent) Batch gradient descent

• گرادیان نزولی دسته‌ای کوچک (Mini-batch Gradient Descent) Mini-batch gradient descent

• انتشار میانگین مربع ریشه (RMSProp) Root Mean Square Propagation (RMSProp)

• گرادیان نزولی تصادفی (SGD) Stochastic gradient descent (SGD)

• تخمین گشتاور تطبیقی (Adam) Adaptive Moment Estimation (Adam)

• دلتا تطبیقی (AdaDelta) Adaptive Delta (AdaDelta)

4. تکنیک‌های تنظیم هایپرپارامترها 4. Hyperparameter Tuning Techniques

• استفاده از KerasTuner برای تنظیم هایپرپارامترها Using KerasTuner for hyperparameter tuning

• روش‌های تنظیم هایپرپارامتر Methods for hyperparameter tuning

• تفاوت پارامترها و هایپرپارامترها Parameters versus hyperparameters

• تعریف یک مدل یادگیری عمیق قابل تنظیم در Keras Defining a tunable deep learning model in Keras

• هایپرپارامترهای کلیدی در یادگیری عمیق Key hyperparameters in deep learning

5. تکنیک‌های پیشرفته آموزش 5. Advanced Training Techniques

• برش گرادیان (Gradient Clipping) Gradient clipping

• نرمال‌سازی دسته‌ای (Batch Normalization) Batch normalization

• اعمال برش گرادیان بر روی مدل یادگیری عمیق Applying gradient clipping to a deep learning model

• توقف زودهنگام (Early Stopping) و ذخیره‌سازی نقاط بازگشت (Checkpointing) Early stopping and checkpointing

• زمان‌بندی نرخ یادگیری (Learning Rate Scheduling) Learning rate scheduling

• اعمال نرمال‌سازی دسته‌ای بر روی مدل یادگیری عمیق Applying batch normalization to a deep learning model

• آموزش مدل یادگیری عمیق با استفاده از Callbacks Training a deep learning model using callbacks

جمع‌بندی Conclusion

• تداوم در بهینه‌سازی مدل‌های یادگیری عمیق Continuing to optimize deep learning models