آموزش یادگیری عمیق برای مبتدیان: مفاهیم اصلی و پیوتچ - آخرین آپدیت

سرفصل ها و درس ها

یادگیری عمیق - تصویر بزرگ Deep learning - the big picture

• مقدمه Introduction

• یادگیری ماشین دقیقاً چیست؟ What is Machine Learning exactly?

• انواع مختلف یادگیری ماشین: تحت نظارت ، بدون نظارت و تقویت Different types of machine learning: supervised, unsupervised, and reinforcement

• تصویر بزرگ The big picture

• شبکه عصبی عمیق به عنوان ویژگی ها و وزن ها Deep neural network as features and weights

• توابع از دست دادن و آموزش در مقابل استنباط Loss functions & training vs inference

• چرا یادگیری عمیق غیرقانونی است و چگونه می توان در آن خوب شد Why deep learning is unintuitive and how to get good at it

• نحوه ایجاد شبکه های عصبی احساس بصری How to make neural networks feel intuitive

• بررسی اجمالی دوره Course overview

• یادگیری عمیق - تصویر بزرگ Deep Learning - The Big Picture

اختراع شبکه عصبی عمیق از ابتدا Reinventing deep neural network from scratch

• رگرسیون خطی و از دست دادن MSE Linear regression and MSE loss

• تجزیه و تحلیل عددی-a.k.a. "آزمایش و خطا" Numerical analysis - a.k.a. “trial-and-error”

• نمای شبکه Network view

• پیراستون Perceptrons

• "عمیق" در یادگیری عمیق The “Deep” in deep learning

• تابع فعال سازی Activation Function

• بیش از حد و بیش از حد Overparameterization and overfitting

• دفع جبر خطی Linear Algebra detour

• بردار (= موازی سازی) Vectorization (= parallelization)

• مقیاس پذیری و خواص ظهور Scalability and emergent properties

• بازپرداخت پاس رو به جلو و مقدمه مختصری برای پاس عقب Recap of the forward pass and brief introduction to backward pass

• اختراع شبکه عصبی عمیق از ابتدا Reinventing Deep Neural Network from Scratch

چگونه این مدل به تنهایی یاد می گیرد - الگوریتم انتشار Back Deep -Div How the model learns on its own - Back Propagation algorithm deep-div

• الگوریتم انتشار پشتی The back propagation algorithm

• محاسبه محاسبات Calculus detour

• محاسبات دفع II Calculus detour II

• نزول شیب Gradient descent

• DETOUR محاسبه - مشتقات جزئی و نزول شیب Calculus detour - partial derivatives and gradient descent

• محاسبه محاسبه - قانون زنجیره ای Calculus detour - the Chain Rule

• DETOUR محاسبه - قانون زنجیره ای دوم Calculus detour - the Chain Rule II

• نمودار محاسباتی I - گذر به جلو Computational graph I - forward pass

• نمودار محاسباتی II - پاس عقب Computational graph II - backward pass

• نمودار محاسباتی III - پاس عقب II Computational graph III - backward pass II

• نمودار محاسباتی IV - پاس عقب III Computational graph IV - backward pass III

• گذرگاه به جلو و عقب را بازیابی و بسته بندی کنید Forward and backward pass recap and wrap up

• چگونه مدل به تنهایی یاد می گیرد How the Model Learns on Its Own

چگونه می توان شبکه های عصبی را در واقعیت کار کرد How to make neural networks work in reality

• ناپدید شدن مشکل شیب Vanishing gradient problem

• ناپدید شدن راه حل های شیب من Vanishing gradient solutions I

• ناپدید شدن راه حل های شیب II Vanishing gradient solutions II

• نزول شیب تصادفی و مینی دسته Stochastic and mini-batch gradient descent

• بهینه سازهای دیگر من Other optimizers I

• بهینه سازهای دیگر II Other optimizers II

• استراتژی های تنظیم Hyperparameter Hyperparameter tuning strategies

• عادی سازی Batch normalization

• من بیش از حد - مشکل و مرور کلی راه حل Overfitting I - problem and solution overview

• بیش از حد II - تنظیم و رها کردن Overfitting II - regularization and drop out

• فعال سازی Softmax Softmax activation

• توابع ضرر Loss functions

• از دست دادن آنتروپی متقابل Cross entropy loss

• چگونه می توان شبکه های عصبی را در واقعیت کار کرد How to Make Neural Networks Work in Reality

برنامه نویسی شبکه های عصبی عمیق در Pytorch و Pytorch Lightning Coding deep neural networks in PyTorch and PyTorch Lightning

• تنظیم یک محیط برنامه نویسی با استفاده از نوت بوک Anaconda و Jupyter در VScode Setting up a coding environment using Anaconda and Jupyter Notebook in Vscode

• یک مدل MNIST را از ابتدا در Pytorch I ساده آموزش دهید Train an MNIST model from scratch in plain PyTorch I

• یک مدل MNIST را از ابتدا در Pytorch II ساده آموزش دهید Train an MNIST model from scratch in plain PyTorch II

• یک مدل MNIST را از ابتدا در Pytorch III ساده آموزش دهید Train an MNIST model from scratch in plain PyTorch III

• یک مدل MNIST را از ابتدا در Pytorch IV ساده آموزش دهید Train an MNIST model from scratch in plain PyTorch IV

• با استفاده از ماژول NN NN Pytorch یک مدل MNIST را آموزش دهید Train an MNIST model using PyTorch's nn module I

• با استفاده از ماژول NN II Pytorch ، یک مدل MNIST را آموزش دهید Train an MNIST model using PyTorch's nn module II

• یک مدل MNIST را با استفاده از Pytorch Lightning I آموزش دهید Train an MNIST model using PyTorch Lightning I

• قبل از ادامه کار Before you proceed

• با استفاده از Pytorch Lightning II یک مدل MNIST را آموزش دهید Train an MNIST model using PyTorch Lightning II

• مراحل بعدی Next steps

• برنامه نویسی شبکه های عصبی عمیق در Pytorch و Pytorch Lightning Coding Deep Neural Networks in PyTorch and PyTorch Lightning