آموزش PyTorch Ultimate 2023: از اصول اولیه تا پیشرفته

سرفصل ها و درس ها

نمای کلی دوره و راه اندازی سیستم Course Overview & System Setup

• بررسی اجمالی دوره Course Overview

• مقدمه PyTorch PyTorch Introduction

• راه اندازی سیستم System Setup

• نحوه دریافت مطالب دوره How to Get the Course Material

• اطلاعات اضافی برای کاربران مک Additional Information for Mac-Users

• راه اندازی محیط کوندا Setting up the conda environment

• مدیریت خطای راه اندازی محیط عمومی General Environment Setup Error Handling

• نحوه کار با دوره How to work with the course

فراگیری ماشین Machine Learning

• هوش مصنوعی (101) Artificial Intelligence (101)

• یادگیری ماشینی (101) Machine Learning (101)

• مدل‌های یادگیری ماشین (101) Machine Learning Models (101)

مقدمه یادگیری عمیق Deep Learning Introduction

• مرور کلی یادگیری عمیق Deep Learning General Overview

• مدل سازی یادگیری عمیق 101 Deep Learning Modeling 101

• کارایی Performance

• از پرسپترون تا شبکه عصبی From Perceptron to Neural Network

• انواع لایه ها Layer Types

• توابع فعال سازی Activation Functions

• توابع از دست دادن Loss Functions

• بهینه سازها Optimizers

ارزیابی مدل Model Evaluation

• عدم تناسب بیش از حد (101) Underfitting Overfitting (101)

• تقسیم تست قطار (101) Train Test Split (101)

• تکنیک های نمونه گیری مجدد (101) Resampling Techniques (101)

شبکه عصبی از ابتدا (اختیاری اما به شدت توصیه می شود) Neural Network from Scratch (opt. but highly recommended)

• نمای کلی بخش Section Overview

• NN از ابتدا (101) NN from Scratch (101)

• محاسبه محصول نقطه ای (کدگذاری) Calculating the dot-product (Coding)

• NN از ابتدا (آماده سازی داده) NN from Scratch (Data Prep)

• NN از تابع Scratch Modeling __init__ NN from Scratch Modeling __init__ function

• NN از Scratch Modeling Helper Functions NN from Scratch Modeling Helper Functions

• NN از تابع Scratch Modeling Forward NN from Scratch Modeling forward function

• NN از Scratch Modeling تابع عقب NN from Scratch Modeling backward function

• NN از عملکرد بهینه ساز Scratch Modeling NN from Scratch Modeling optimizer function

• NN از تابع قطار مدلسازی خراش NN from Scratch Modeling train function

• NN از آموزش مدل اسکرچ NN from Scratch Model Training

• NN از ارزیابی مدل اسکرچ NN from Scratch Model Evaluation

تانسورها Tensors

• نمای کلی بخش Section Overview

• از تانسورها تا نمودارهای محاسباتی (101) From Tensors to Computational Graphs (101)

• تانسور (کدگذاری) Tensor (Coding)

مقدمه مدلسازی PyTorch PyTorch Modeling Introduction

• نمای کلی بخش Section Overview

• رگرسیون خطی از ابتدا (کدگذاری، آموزش مدل) Linear Regression from Scratch (Coding, Model Training)

• رگرسیون خطی از ابتدا (کدگذاری، ارزیابی مدل) Linear Regression from Scratch (Coding, Model Evaluation)

• کلاس مدل (کدگذاری) Model Class (Coding)

• تمرین: میزان یادگیری و تعداد دوره ها Exercise: Learning Rate and Number of Epochs

• راه حل: میزان یادگیری و تعداد دوره ها Solution: Learning Rate and Number of Epochs

• دسته (101) Batches (101)

• دسته (کدگذاری) Batches (Coding)

• مجموعه داده ها و بارگذارهای داده (101) Datasets and Dataloaders (101)

• مجموعه داده ها و بارگذارهای داده (کدگذاری) Datasets and Dataloaders (Coding)

• ذخیره و بارگیری مدل ها (101) Saving and Loading Models (101)

• ذخیره و بارگذاری مدل ها (کدگذاری) Saving and Loading Models (Coding)

• آموزش مدل (101) Model Training (101)

• تنظیم فراپارامتر (101) Hyperparameter Tuning (101)

• تنظیم فراپارامتر (کدگذاری) Hyperparameter Tuning (Coding)

مدل های طبقه بندی Classification Models

• نمای کلی بخش Section Overview

• انواع طبقه بندی (101) Classification Types (101)

• ماتریس سردرگمی (101) Confusion Matrix (101)

• منحنی ROC (101) ROC curve (101)

• Multi-Class 1: Data Prep Multi-Class 1: Data Prep

• چند کلاس 2: کلاس مجموعه داده (تمرین) Multi-Class 2: Dataset class (Exercise)

• چند کلاس 3: کلاس مجموعه داده (راه حل) Multi-Class 3: Dataset class (Solution)

• چند کلاس 4: کلاس شبکه (تمرین) Multi-Class 4: Network Class (Exercise)

• چند کلاس 5: کلاس شبکه (راه حل) Multi-Class 5: Network Class (Solution)

• Multi-Class 6: Loss، Optimizer و Hyper Parameters Multi-Class 6: Loss, Optimizer, and Hyper Parameters

• چند کلاس 7: حلقه آموزشی Multi-Class 7: Training Loop

• چند کلاس 8: ارزیابی مدل Multi-Class 8: Model Evaluation

• Multi-Class 9: Naive Classifier Multi-Class 9: Naive Classifier

• چند کلاس 10: خلاصه Multi-Class 10: Summary

• چند برچسبی (تمرین) Multi-Label (Exercise)

• چند برچسبی (راه حل) Multi-Label (Solution)

CNN: طبقه بندی تصاویر CNN: Image Classification

• نمای کلی بخش Section Overview

• CNN (101) CNNs (101)

• CNN (تعاملی) CNN (Interactive)

• پیش پردازش تصویر (101) Image Preprocessing (101)

• پیش پردازش تصویر (کدگذاری) Image Preprocessing (Coding)

• طبقه بندی تصاویر باینری (101) Binary Image Classification (101)

• طبقه بندی تصاویر باینری (کدگذاری) Binary Image Classification (Coding)

• طبقه بندی تصاویر چند کلاسه (تمرین) MultiClass Image Classification (Exercise)

• طبقه بندی تصاویر چند کلاسه (راه حل) MultiClass Image Classification (Solution)

• محاسبات لایه (101) Layer Calculations (101)

• محاسبات لایه (کدگذاری) Layer Calculations (Coding)

CNN: طبقه بندی صوتی CNN: Audio Classification

• طبقه بندی صوتی (101) Audio Classification (101)

• طبقه بندی صوتی (تمرین) Audio Classification (Exercise)

• طبقه بندی صوتی (تحلیل داده های اکتشافی) Audio Classification (Exploratory Data Analysis)

• طبقه بندی صوتی (راه حل آماده سازی داده ها) Audio Classification (Data Prep-Solution)

• طبقه بندی صدا (مدل-راه حل) Audio Classification (Model-Solution)

CNN: تشخیص شی CNN: Object Detection

• نمای کلی بخش Section Overview

• معیارهای دقت (101) Accuracy Metrics (101)

• تشخیص شی (101) Object Detection (101)

• تشخیص شی با آشکارساز (کدگذاری) Object Detection with detecto (Coding)

• آموزش رایگان مدل بر روی GPU (کد نویسی) Training a Model on GPU for free (Coding)

• یولو (101) YOLO (101)

• فرمت های برچسب گذاری Labeling Formats

• پروژه YOLOv7 (101) YOLOv7 Project (101)

• کدگذاری YOLOv7: راه اندازی YOLOv7 Coding: Setup

• کدگذاری YOLOv7: آماده سازی داده YOLOv7 Coding: Data Prep

• YOLOv7 Coding: Model Training YOLOv7 Coding: Model Training

• کدگذاری YOLOv7: استنتاج مدل YOLOv7 Coding: Model Inference

• کدگذاری YOLOv8: آموزش مدل و استنتاج YOLOv8 Coding: Model Training and Inference

انتقال سبک Style Transfer

• نمای کلی بخش Section Overview

• انتقال سبک (101) Style Transfer (101)

• انتقال سبک (کدگذاری) Style Transfer (Coding)

شبکه های از پیش آموزش دیده و آموزش انتقال Pretrained Networks and Transfer Learning

• نمای کلی بخش Section Overview

• انتقال آموزش و شبکه های از پیش آموزش دیده (101) Transfer Learning and Pretrained Networks (101)

• آموزش انتقال (کد نویسی) Transfer Learning (Coding)

شبکه های عصبی مکرر Recurrent Neural Networks

• نمای کلی بخش Section Overview

• RNN (101) RNN (101)

• LSTM (کدگذاری) LSTM (Coding)

• بهبود مدل LSTM LSTM Model Improvements

• LSTM (ورزش) LSTM (Exercise)

• LSTM (راه حل) LSTM (Solution)

سیستم توصیهگر Recommender Systems

• سیستم های توصیه کننده (101) Recommender Systems (101)

• RecSys (کدگذاری 1/4) - مجموعه داده و کلاس مدل RecSys (Coding 1/4) - Dataset and Model Class

• RecSys (کدگذاری 2/4) - آموزش و ارزیابی مدل RecSys (Coding 2/4) - Model Training and Evaluation

• RecSys (کدگذاری 3/4) - کاربران و موارد RecSys (Coding 3/4) - Users and Items

• RecSys (کدگذاری 4/4) - Precision@k و Recall@k RecSys (Coding 4/4) - Precision@k and Recall@k

رمزگذارهای خودکار Autoencoders

• نمای کلی بخش Section Overview

• رمزگذارهای خودکار (101) Autoencoders (101)

• رمزگذارهای خودکار (کدگذاری) Autoencoders (Coding)

شبکه های متخاصم مولد Generative Adversarial Networks

• نمای کلی بخش Section Overview

• GAN (101) GANs (101)

• GAN (کدگذاری) GANs (Coding)

• GAN (ورزش) GANs (Exercise)

شبکه های عصبی نموداری Graph Neural Networks

• شبکه های عصبی نمودار (101) Graph Neural Networks (101)

• معرفی نمودار (کدنویسی) Graph Introduction (Coding)

• طبقه بندی گره (کدگذاری: آماده سازی داده) Node Classification (Coding: Data Prep)

• طبقه بندی گره (کدگذاری: قطار مدل) Node Classification (Coding: Model Train)

• طبقه بندی گره (کدگذاری: Model Eval) Node Classification (Coding: Model Eval)

مبدل ها Transformers

• ترانسفورماتور 101 Transformers 101

• Vision Transformers (ViT) Vision Transformers (ViT)

• آموزش ViT در مجموعه داده سفارشی (کدگذاری) Train ViT on Custom Dataset (Coding)

PyTorch Lightning PyTorch Lightning

• PyTorch Lighting (101) PyTorch Lighting (101)

• PyTorch Ligthning (کدگذاری) PyTorch Ligthning (Coding)

• توقف زودهنگام (101) Early Stopping (101)

• توقف زودهنگام (کدگذاری) Early Stopping (Coding)

یادگیری نیمه نظارتی Semi-Supervised Learning

• یادگیری نیمه نظارتی (101) Semi-Supervised Learning (101)

• یادگیری تحت نظارت (مدل مرجع، کدگذاری) Supvervised Learning (Reference Model, Coding)

• یادگیری نیمه نظارتی (1/2: مجموعه داده و بارگذار داده) Semi-Supervised Learning (1/2: Dataset and Dataloader)

• یادگیری نیمه نظارتی (2/2 مدل سازی) Semi-Supervised Learning (2/2 Modeling)

پردازش زبان طبیعی (NLP) Natural Language Processing (NLP)

• پردازش زبان طبیعی (101) Natural Language Processing (101)

• مقدمه جاسازی‌های کلمه (101) Word Embeddings Intro (101)

• معرفی کدگذاری احساس OHE Sentiment OHE Coding Intro

• احساس OHE (کدگذاری) Sentiment OHE (Coding)

• جاسازی کلمه با NN (101) Word Embeddings with NN (101)

• GloVe: جاسازی کلمه (کدگذاری) را دریافت کنید GloVe: Get Word Embedding (Coding)

• دستکش: نزدیکترین کلمات را پیدا کنید (کدگذاری) Glove: Find closest words (Coding)

• GloVe: قیاس کلمات (کدگذاری) GloVe: Word Analogy (Coding)

• خوشه کلمات دستکش (101) Glove Word Cluster (101)

• GloVe Word (کدگذاری) GloVe Word (Coding)

• احساس با جاسازی (101 Sentiment with Embedding (101

• احساس با جاسازی (کدگذاری) Sentiment with Embedding (Coding)

• استفاده از مدل های NLP از پیش آموزش دیده (101) Apply Pre-trained NLP Models (101)

• استفاده از مدل های از پیش آموزش دیده NLP (کدنویسی) Apply Pre-Trained NLP Models (Coding)

موضوعات متفرقه Miscellanious Topics

• OpenAI ChatGPT (101) OpenAI ChatGPT (101)

• Resnet (101) Resnet (101)

• آغاز (101) Inception (101)

• ماژول آغازین (کد نویسی) Inception Module (Coding)

• یادگیری افراطی (101) Extreme Learning (101)

• یادگیری افراطی (کدنویسی) Extreme Learning (Coding)

اشکال زدایی مدل Model Debugging

• قلاب (101) Hooks (101)

• قلاب (کدگذاری) Hooks (Coding)

استقرار مدل Model Deployment

• استقرار مدل (101) Model Deployment (101)

• Flask On-Premise Hello World (کدنویسی) Flask On-Premise Hello World (Coding)

• API On-Premise با مدل یادگیری عمیق (کدنویسی) API On-Premise with Deep Learning Model (Coding)

• API On-Premise: نحوه مصرف داده ها (کدگذاری) API On-Premise: How to consume the data (Coding)

• Google Cloud: استقرار وزن مدل (کدگذاری) Google Cloud: Deploy Model Weights (Coding)

• Google Cloud: استقرار REST API (کدگذاری) Google Cloud: Deploy REST API (Coding)

بخش پایانی Final Section

• با تشکر از شما و منابع بیشتر Thank you & Further Resources

• سخنرانی پاداش Bonus Lecture