آموزش یادگیری ماشین، یادگیری عمیق + AWS Sagemaker

سرفصل ها و درس ها

معرفی Introduction

• معرفی Introduction

• نحوه برخورد با این دوره How to tackle this course

• نصب و ثبت نام Installations and sign ups

• دفترهای یادداشت Jupyter Jupyter Notebooks

• مطالب دوره Course Material

• پیوند Google Drive برای همه مطالب دوره Google Drive Link for All Course Material

پایتون اساسی + پانداها + نقشه کشی Basic python + Pandas + Plotting

• معرفی Intro

• ساختارهای اساسی داده Basic Data Structures

• فرهنگ لغت Dictionaries

• توابع پایتون (روش ها) Python functions (methods)

• توابع ناهنجار Numpy functions

• اظهارات مشروط Conditional statements

• برای حلقه ها For loops

• دوباره فرهنگ لغت Dictionaries again

• --------------------------------- پانداها ----------------- --------------- -------------------------------- Pandas --------------------------------

• معرفی Intro

• توابع ساده پانداها Pandas simple functions

• پاندا: زیر مجموعه Pandas: Subsetting

• پانداها: loc و iloc Pandas: loc and iloc

• پانداها: loc و iloc 2 Pandas: loc and iloc 2

• پاندا: نقشه و اعمال کنید Pandas: map and apply

• پانداها: گروهی Pandas: groupby

• ----- نقشه کشی -------- ----- Plotting --------

• ترسیم منابع (نوت بوک) Plotting resources (notebooks)

• طرح خط Line plot

• خطوط متعدد را ترسیم کنید Plot multiple lines

• هیستوگرام ها Histograms

• نمودارهای پراکنده Scatter Plots

• توطئه های فرعی Subplots

• توطئه جفت دریایی + جفت Seaborn + pair plots

یادگیری ماشین: Numpy + Scikit Learn Machine Learning: Numpy + Scikit Learn

• نظرات شما برای من مهم است! Your reviews are important to me!

• ----------- آشفته ------------- ----------- Numpy -------------

• نزول گرادیان Gradient Descent

• kmeans قسمت 1 Kmeans part 1

• Kmeans قسمت 2 Kmeans part 2

• صدا و سیما Broadcasting

• ---------------- Scikit Learn -------------------------------- ----- ---------------- Scikit Learn -------------------------------------

• رگرسیون خطی قسمت 1 Linear Regresson Part 1

• معرفی Intro

• رگرسیون خطی قسمت 2 Linear Regression Part 2

• درختان طبقه بندی و رگرسیون Classification and Regression Trees

• CART قسمت 2 CART part 2

• نظریه جنگل های تصادفی Random Forest theory

• کد جنگل تصادفی Random Forest Code

• ماشین آلات شیب تقویت شده Gradient Boosted Machines

یادگیری ماشین: طبقه بندی + سریهای زمانی + مدلهای تشخیصی Machine Learning: Classification + Time Series + Model Diagnostics

• Kaggle قسمت 1 Kaggle part 1

• Kaggle قسمت 2 Kaggle part 2

• تئوری قسمت 1 Theory part 1

• تئوری قسمت 2 + کد Theory part 2 + code

• مجموعه داده تایتانیک Titanic dataset

• مقدمه طبقه بندی Sklearn Sklearn classification prelude

• طبقه بندی Sklearn Sklearn classification

• مقابله با مقادیر از دست رفته Dealing with missing values

• --------- سری زمانی ------------------- --------- Time Series -------------------

• معرفی Intro

• توابع از دست دادن Loss functions

• FB Prophet قسمت 1 FB Prophet part 1

• FB Prophet قسمت 2 FB Prophet part 2

• نظریه پشت FB Prophet Theory behind FB Prophet

• ------------ تشخیص مدل ----- ------------ Model Diagnostics -----

• برازش بیش از حد Overfitting

• اعتبار سنجی متقابل Cross Validation

• طبقه بندی شده است Stratified K Fold

• منطقه زیر منحنی (AUC) قسمت 1 Area Under Curve (AUC) Part 1

• منطقه تحت منحنی (AUC) قسمت 2 Area Under Curve (AUC) Part 2

یادگیری بدون نظارت Unsupervised Learning

• نظریه تجزیه و تحلیل اجزای اصلی (PCA) Principal Component Analysis (PCA) theory

• مد MNIST PCA Fashion MNIST PCA

• K به معنی K-means

• سایر روشهای خوشه بندی Other clustering methods

• نظریه DBSCAN DBSCAN theory

• نظریه مدلهای مخلوط گاوسی (GMM) Gaussian Mixture Models (GMM) theory

پردازش زبان طبیعی + اصلاح Natural Language Processing + Regularization

• معرفی Intro

• کلمات و فرکانس اصطلاح را متوقف کنید Stop words and Term Frequency

• اصطلاح فرکانس - نظریه فرکانس اسناد معکوس (Tf - Idf) Term Frequency - Inverse Document Frequency (Tf - Idf) theory

• طبقه بندی احساسات اخبار مالی Financial News Sentiment Classifier

• NLTK + Stemming NLTK + Stemming

• N گرم N-grams

• اهمیت کلمه (ویژگی) Word (feature) importance

• معرفی Spacy Spacy intro

• استخراج ویژگی با Spacy (با استفاده از پانداها) Feature Extraction with Spacy (using Pandas)

• مثال طبقه بندی Classification Example

• نمونه برداری بیش از حد Over-sampling

• -------- منظم سازی ------------ -------- Regularization ------------

• معرفی Introduction

• تجزیه و تحلیل MSE MSE recap

• معرفی L2 Loss/Ridge Regression L2 Loss / Ridge Regression intro

• رگرسیون ریج (رگرسیون جریمه L2) Ridge regression (L2 penalised regression)

• آماده سازی داده های S & P500 برای از دست دادن L1 S&P500 data preparation for L1 loss

• L1 رگرسیون جریمه (Lasso) L1 Penalised Regression (Lasso)

• L1/L2 نظریه مجازات: چرا کار می کند L1/ L2 Penalty theory: why it works

یادگیری عمیق Deep Learning

• معرفی Intro

• نظریه DL قسمت 1 DL theory part 1

• نظریه DL قسمت 2 DL theory part 2

• مشکل نمایشی Tensorflow + Keras 1 Tensorflow + Keras demo problem 1

• توابع فعال سازی Activation functions

• اولین مثال با Relu First example with Relu

• MNIST و Softmax MNIST and Softmax

• عادی سازی ورودی یادگیری عمیق Deep Learning Input Normalisation

• نظریه سافت مکس Softmax theory

• دسته نرم Batch Norm

• نظریه نرمال دسته ای Batch Norm Theory

یادگیری عمیق (TensorFlow) - شبکه های عصبی متحول Deep Learning (TensorFlow) - Convolutional Neural Nets

• معرفی Intro

• مد Mnist خوراک خالص به جلو برای معیار سنجش Fashion MNIST feed forward net for benchmarking

• لایه Conv2d Keras Keras Conv2D layer

• برازش مدل و بحث نتایج Model fitting and discussion of results

• نظریه و کد ترک تحصیل Dropout theory and code

• MaxPool (و مقایسه با گام به گام) MaxPool (and comparison to stride)

• سیفار -10 Cifar-10

• تشخیص نوک بینی با CNN ها Nose Tip detection with CNNs

یادگیری عمیق: شبکه های عصبی مکرر Deep Learning: Recurrent Neural Nets

• Word2vec و Embeddings Word2vec and Embeddings

• Kaggle + Word2Vec Kaggle + Word2Vec

• Word2Vec: API keras Model Word2Vec: keras Model API

• شبکه های عصبی مکرر - نظریه Recurrent Neural Nets - Theory

• یادگیری عمیق - شبکه های حافظه کوتاه مدت (LSTM) Deep Learning - Long Short Term Memory (LSTM) Nets

• یادگیری عمیق - چیدن LSTM ها + GRU ها Deep Learning - Stacking LSTMs + GRUs

• یادگیری انتقال - بردارهای GLOVE Transfer Learning - GLOVE vectors

• دنباله دنباله معرفی + داده های آماده سازی Sequence to Sequence Introduction + Data Prep

• توالی به ترتیب مدل + مدل Keras مدل API Sequence to Sequence model + Keras Model API

• مدلهای دنباله به ترتیب: مرحله پیش بینی Sequence to Sequence models: Prediction step

یادگیری عمیق: مقدمه PyTorch Deep Learning: PyTorch Introduction

• نوت بوک Notebooks

• معرفی Introduction

• Pytorch: TensorDataset Pytorch: TensorDataset

• Pytorch: Dataset و DataLoaders Pytorch: Dataset and DataLoaders

• یادگیری عمیق با PyTorch: nn. مدل های متوالی Deep Learning with PyTorch: nn.Sequential models

• یادگیری عمیق با Pytorch: توابع از دست دادن Deep Learning with Pytorch: Loss functions

• یادگیری عمیق با پایتورچ: نزول گرادیان تصادفی Deep Learning with Pytorch: Stochastic Gradient Descent

• یادگیری عمیق با Pytorch: Optimizers Deep Learning with Pytorch: Optimizers

• API مدل Pytorch Pytorch Model API

• Pytorch در GPU ها Pytorch in GPUs

• یادگیری عمیق: مقدمه ای بر Pytorch Lightning Deep Learning: Intro to Pytorch Lightning

یادگیری عمیق: یادگیری انتقال با Pytorch رعد و برق Deep Learning: Transfer Learning with PyTorch Lightning

• مقدمه آموزش انتقال Transfer Learning Introduction

• نوت بوک Notebooks

• توضیح مشکل Kaggle Kaggle problem description

• مجموعه داده های PyTorch + Torchvision PyTorch datasets + Torchvision

• آموزش انتقال PyTorch با ResNet PyTorch transfer learning with ResNet

• مدل رعد و برق Pytorch PyTorch Lightning Model

• مربی رعد و برق PyTorch + ارزیابی مدل PyTorch Lightning Trainer + Model evaluation

• یادگیری عمیق برای طبقه بندی برگ های کاساوا Deep Learning for Cassava Leaf Classification

• مجموعه داده های برگ Cassava Cassava Leaf Dataset

• افزایش داده ها با تبدیل Torchvision Data Augmentation with Torchvision Transforms

• Train vs Test Augmentations + پارامترهای DataLoader Train vs Test Augmentations + DataLoader parameters

• یادگیری عمیق: انتقال مدل یادگیری با ResNet Deep Learning: Transfer Learning Model with ResNet

• راه اندازی PyTorch Lightning برای آموزش Setting up PyTorch Lightning for training

• از دست دادن آنتروپی متقابل برای کلاسهای نامتعادل Cross Entropy Loss for Imbalanced Classes

• راه اندازی و ارزیابی مجموعه داده PyTorch Test PyTorch Test dataset setup and evaluation

• WandB برای ثبت آزمایشات WandB for logging experiments

تقسیم بندی سطح پیکسل (بخش بندی معنایی) با PyTorch Pixel Level Segmentation (Semantic Segmentation) with PyTorch

• معرفی Introduction

• معرفی Introduction

• نوت بوک Notebooks

• Coco Dataset + Augmentations for Segmentation with Torchvision Coco Dataset + Augmentations for Segmentation with Torchvision

• مروری بر معماری Unet Unet Architecture overview

• معماری مدل PyTorch PyTorch Model Architecture

• قلاب های PyTorch PyTorch Hooks

• PyTorch Hooks: با نقاط شکست گام بردارید PyTorch Hooks: Step through with breakpoints

• PyTorch Weighted CrossEntropy Loss PyTorch Weighted CrossEntropy Loss

• Weights and Biases: ثبت تصاویر. Weights and Biases: Logging images.

• آموزش تقسیم بندی معنایی با PyTorch Lightning Semantic Segmentation training with PyTorch Lightning

یادگیری عمیق: Transformers و BERT Deep Learning: Transformers and BERT

• آشنایی با ترانسفورماتورها Introduction to Transformers

• منابع Resources

• ترانسفورماتور مصور (پست وبلاگ توسط جی آلامار) The illustrated Transformer (blogpost by Jay Alammar)

• Encoder Transformer Model: The ریاضی Encoder Transformer Models: The Maths

• برت - نظریه BERT - The theory

• چالش طبقه بندی نظرات سمی چند زبانه Kaggle Kaggle Multi-lingual Toxic Comment Classification Challenge

• Tokenizers و آمادگی داده برای مدل های برت Tokenizers and data prep for BERT models

• مدل Distilbert (کوچکتر BERT) Distilbert (Smaller BERT) model

• Pytorch Lightning + DistilBERT برای طبقه بندی Pytorch Lightning + DistilBERT for classification

یادگیری بیزی و برنامه نویسی احتمالی Bayesian Learning and probabilistic programming

• مقدمه و اصطلاحات Introduction and Terminology

• یادگیری بیزی: توزیع ها Bayesian Learning: Distributions

• قانون بیز برای برآورد میانگین جمعیت Bayes rule for population mean estimation

• یادگیری بیزی: تخمین جمعیت به روش pymc3 Bayesian learning: Population estimation pymc3 way

• مثال Coins Toss با Pymc3 Coin Toss Example with Pymc3

• راه اندازی داده ها برای رگرسیون خطی بیزی Data Setup for Bayesian Linear Regression

• رگرسیون خطی بیزی با pymc3 Bayesian Linear Regression with pymc3

• رگرسیون نورد بیزی - راه اندازی مشکل Bayesian Rolling Regression - Problem setup

• رگرسیون نورد بیزی - راه pymc3 Bayesian Rolling regression - pymc3 way

• رگرسیون نورد بیزی - پیش بینی Bayesian Rolling Regression - forecasting

• Variational Bayes Intro معرفی Variational Bayes Intro

• تغییرات بیز: طبقه بندی خطی Variational Bayes: Linear Classification

• استنباط بیزی متغیری: تجزیه و تحلیل نتایج Variational Bayesian Inference: Result Analysis

• Minibatch Variational Bayes Minibatch Variational Bayes

• شبکه های عمیق بیزی Deep Bayesian Networks

• شبکه های عمیق بیزی - تجزیه و تحلیل Deep Bayesian Networks - analysis

استقرار مدل Model Deployment

• معرفی Intro

• معرفی Intro

• ذخیره مدل ها Saving Models

• معرفی FastAPI FastAPI intro

• مدل سرو FastAPI FastAPI serving model

• Streamlit Intro Streamlit Intro

• عملکردهای Streamlit Streamlit functions

• مدل CLIP CLIP model

افکار نهایی Final Thoughts

• چند توصیه در سفر Some advice on your journey

AWS Sagemaker (برای استقرار مدل) AWS Sagemaker (for Model Deployment)

• منابع Resources

• مقدمه و هشدار (حتما تماشا کنید!) Introduction and WARNING (Must watch!)

• راه اندازی AWS Setting up AWS

• راه اندازی awscli + IAM awscli + IAM setup

• معرفی AWS s3 + اسکریپت نویسی bash AWS s3 introduction + bash scriptting

• نقش های AWS IAM AWS IAM roles

• AWS Sagemaker - پردازش مشاغل قسمت 1 AWS Sagemaker - Processing jobs Part 1

• Sagemaker Processing - قسمت 2 Sagemaker Processing - Part 2

• آموزش حکیم ساز - قسمت 1 Sagemaker Training - Part 1

• آموزش حکیم ساز - قسمت دوم Sagemaker Training - Part 2

• AWS Cloudwatch AWS Cloudwatch

• استنتاج AWS Sagemaker (استقرار مدل) - قسمت 1 AWS Sagemaker inference (model deployment) - Part 1

• استنتاج AWS Sagemaker - قسمت 2 AWS Sagemaker Inference - Part 2

• استنتاج AWS Sagemaker - قسمت 3 AWS Sagemaker Inference - Part 3

• صورت‌حساب AWS AWS Billing