آموزش مقدمه‌ای بر یادگیری ماشین - آخرین آپدیت

مقدمه Introduction

• معرفی دوره Course Introduction

• آشنایی با مدرس: پروفسور جیوتسانا گروور Meet Your Instructor: Prof. Jyotsana Grover

• آشنایی با مدرس: پروفسور سوارنا چوداری Meet Your Instructor: Prof. Swarna Chaudhary

• تعریف و محدوده یادگیری ماشین Definition and Scope of Machine Learning

• کاربردها (در حوزه‌های مختلف) Applications (Different Domains)

• برنامه‌نویسی سنتی در مقابل یادگیری ماشین و رابطه با هوش مصنوعی Traditional Programming vs Machine Learning and Relation with AI

• یادگیری نظارت‌شده Supervised Learning

• یادگیری نظارت‌نشده Unsupervised Learning

• یادگیری تقویتی Reinforcement Learning

• یادگیری نیمه‌نظارت‌شده Semi-Supervised Learning

• تعریف مسئله و جمع‌آوری داده‌ها Problem Definition and Data Collection

• پیش‌پردازش داده‌ها Data Preprocessing

• تحلیل اکتشافی داده‌ها (EDA) و مهندسی ویژگی Exploratory Data Analysis (EDA) and Feature Engineering

• تقسیم‌بندی داده‌ها و انتخاب مدل Data Splitting and Model Selection

• آموزش مدل، تنظیم هایپرپارامترها و ارزیابی Model Training, Hyperparameter Tuning and Evaluation

• استقرار مدل Model Deployment

• خلاصه هفته اول Summary of Week-1

مدل‌های خطی رگرسیون ۱ Linear Models of Regression - 1

• مقدمه‌ای بر رگرسیون خطی Introduction to Linear Regression

• کاربردهای رگرسیون خطی در دنیای واقعی Real-world Applications of Linear Regression

• انواع مدل‌های رگرسیون Types of Regression Models

• فرضيات Assumptions

• معادله خطی و تابع فرضیه Linear Equation and Hypothesis Function

• تابع هزینه (میانگین مربعات خطا MSE) Cost Function (Mean Squared Error MSE)

• راه‌حل فرم بسته (Closed Form Solution) Closed-Form Solution

• حل مسئله برای راه‌حل فرم بسته Problem Solving for Closed-Form Solution

• گرادیان کاهشی (Gradient Descent) Gradient Descent

• حل مسئله با استفاده از گرادیان کاهشی Problem Solving Using Gradient Descent

• انواع گرادیان کاهشی Variants of Gradient Descent

• مقایسه فرم بسته و گرادیان کاهشی Closed Form vs. Gradient Descent

• معیارهای ارزیابی Evaluation Metrics

• حل مسئله در مورد معیارهای ارزیابی Problem Solving on Evaluation Metrics

• پیش‌بینی حقوق بر اساس سال‌های تجربه Predicting the Salary Based on the Years of Experience

• پیش‌بینی حقوق با استفاده از رگرسیون چندجمله‌ای Predicting the Salary Using Polynomial Regression

• خلاصه هفته دوم Summary of Week-2

مدل‌های خطی رگرسیون ۲ Linear Models of Regression - 2

• موازنه بایاس-واریانس Bias-Variance Tradeoff

• داده‌های بیشتر More Data

• منظم‌سازی (Regularisation) Regularisation

• تقسیم داده‌های آموزش و تست Train-Test Split

• حذف هم‌خطی چندگانه و توقف زودهنگام Remove Multicollinearity And Early Stopping

• افزایش پیچیدگی مدل Increase Model Complexity

• مهندسی ویژگی Feature Engineering

• کاهش منظم‌سازی Reduce Regularisation

• افزایش زمان آموزش و استفاده از ویژگی‌های بهتر Increase Training Time and Use Better Features

• نرمال‌سازی ویژگی‌ها Feature Normalisation

• ویژگی‌های چندجمله‌ای Polynomial Features

• تنظیم هایپرپارامترها Hyperparameter Tuning

• پیاده‌سازی پایتونی منظم‌سازی L1 و L2 در رگرسیون Python Implementation of L1 and L2 Regularisation in Regression

• خلاصه هفته سوم Summary of Week-3

رگرسیون لجستیک Logistic Regression

• مقدمه‌ای بر طبقه‌بندی (Classification) Introduction to Classification

• رگرسیون خطی در مقابل طبقه‌بندی Linear Regression vs. Classification

• کاربردهای طبقه‌بندی Applications to Classification

• تابع سیگموئید Sigmoid Function

• تفسیر خروجی‌های مدل به عنوان احتمال Interpretations of Model Outputs as Probabilities

• مرز تصمیم و آستانه‌گذاری Decision Boundary and Thresholding

• تابع هزینه: آنتروپی متقاطع (Cross Entropy) Cost Function: Cross Entropy

• بهینه‌سازی با استفاده از گرادیان کاهشی Optimisation Using Gradient Descent

• حل مسئله Problem Solving

• تعمیم رگرسیون لجستیک برای مسائل چندکلاسه Generalising Logistic Regression for Multiclass Problems

• معیارهای ارزیابی: دقت و خطای طبقه‌بندی Evaluation Metrics: Accuracy, Misclassification

• سایر معیارهای ارزیابی Other Evaluation Metrics

• منحنی ویژگی‌های عملیاتی گیرنده (ROC) Receiver Operating Characteristics (ROC)

• استراتژی‌های ارزیابی مدل (Holdout، اعتبار‌سنجی متقابل) Model Evaluation Strategies (Holdout, Cross Validation)

• رگرسیون لجستیک دوتایی با ROC Logistic Regression Binary with ROC

• خلاصه هفته چهارم Summary of Week-4

یادگیری بیزی ۱ Bayesian Learning - 1

• مرور احتمال Probability Review

• تابع جرم احتمال Probability Mass Function

• توابع چگالی احتمال Probability Density Functions

• قضیه بیز Bayes’ Theorem

• تعریف و شهود Definition and Intuition

• احتمال و لگاریتم احتمال Likelihood and Log-Likelihood

• تخمین MLE با داده‌های گسسته MLE with Discrete Data

• تخمین MLE با داده‌های پیوسته MLE with Continuous Data

• انگیزه و تعریف Motivation and Definition

• توزیع‌های پیشین و تفکر بیزی Prior Distributions and Bayesian Thinking

• مقایسه MAP و MLE: چه زمانی و چرا؟ MAP vs MLE: When and Why?

• خلاصه هفته پنجم Summary of Week-5

یادگیری بیزی ۲ Bayesian Learning - 2

• استقلال شرطی Conditional Independence

• قاعده ضرب و قاعده زنجیره Product Rule and Chain Rule

• مرور قاعده بیز Bayes’ Rule - Recap

• استخراج Naive Bayes از قاعده بیز Deriving Naïve Bayesian from Bayes’ Rule

• محاسبه احتمال در Naive Bayes Computing Likelihood in Naive Bayes’

• الگوریتم Naive Bayes برای مسائل طبقه‌بندی با ویژگی‌های دسته‌ای Naïve Bayes' for Classification Problems Categorical Features

• الگوریتم Naive Bayes برای مسائل طبقه‌بندی Naïve Bayes’ for Classification Problems

• مسئله احتمال صفر Zero Probability Problem

• هموارسازی لاپلاسی (Laplacian Smoothing) Laplacian Smoothing

• حل مسئله با استفاده از هموارسازی Problem Solving Using Smoothing

• تفسیرپذیری Interpretability

• مزایا و محدودیت‌ها Advantages and Limitations

• چه زمانی استفاده کنیم و چه زمانی نکنیم When to Use and When Not to

• الگوریتم Naive Bayes و انواع آن Naïve Bayes and its Variants

• مدل‌های مولد احتمالی در مقابل مدل‌های تمایزی Probabilistic Generative vs. Discriminative Models

• دموی هفته ششم M6 - Demo

• خلاصه هفته ششم Summary of Week-6

درخت‌های تصمیم Decision Trees

• درخت تصمیم چیست؟ What is a Decision Tree?

• ساختار درخت تصمیم Decision Tree Structure

• کاربردها و موارد استفاده Applications and Use-Cases

• انگیزه استفاده از معیارهای ناخالصی Motivation for Using Impurity Measures

• انتروپی و بهره اطلاعاتی (ID3) Entropy and Information Gain (ID3)

• نسبت بهره (C4.5) Gain Ratio (C4.5)

• ناخالصی جینی (CART) Gini Impurity (CART)

• ساخت مدل درخت تصمیم Decision Tree Model Building

• ساخت مدل درخت تصمیم با استفاده از ID3 Decision Tree Model Building Using ID3

• کم‌برازش و بیش‌برازش در درخت‌های تصمیم Underfitting and Overfitting in Decision Trees

• موازنه بایاس-واریانس Bias Variance Trade-Off

• تأثیر عمق درخت بر بیش‌برازش و کم‌برازش Effect of Tree Depth on Overfitting and Underfitting

• هرس پیشین (Pre Pruning) Pre-Pruning

• هرس پسین (Post Pruning) Post-Pruning

• تفسیرپذیری در درخت‌های تصمیم Interpretability in Decision Trees

• مزایا و محدودیت‌ها Advantages and Limitations

• عدم تعادل کلاس‌ها در درخت‌های تصمیم Class Imbalance in Decision Trees

• مروری بر روش‌های تجمعی (Ensemble Methods) Ensemble Methods-An Overview

• دموی هفته هفتم M7 - Demo

• خلاصه هفته هفتم Summary of Week-7

ماشین بردار پشتیبان (SVM) Support Vector Machine

• مقدمه Introduction

• انگیزه جداسازی داده‌ها با استفاده از خطوط/صفحات Motivation for Separating Data Using Lines/Planes

• فرمول‌بندی ریاضی ابرصفحه (Hyperplane) Mathematical Formulation of Hyperplane

• حاشیه و بردارهای پشتیبان Margin and Support Vectors

• انگیزه برای طبقه‌بندی‌کننده با بیشترین حاشیه Motivation for Maximum Margin Classifier

• استخراج ریاضی حاشیه Mathematical Derivation of Margin

• مروری بر SVM به عنوان یک مدل تمایزی Overview of SVM as a Discriminative Model

• بهینه‌سازی مقید و نامقید Constrained and Unconstrained Optimisation

• ضریب لاگرانژ Lagrange Multiplier

• شرایط KKT KKT Conditions

• فرمول‌بندی SVM با حاشیه سخت (Hard Margin) Hard Margin SVM Formulation

• اهمیت مقیاس‌بندی ویژگی‌ها در SVM Importance of Feature Scaling in SVM

• روش‌های مقیاس‌بندی ویژگی Feature Scaling Methods

• استفاده از SVM برای ویژگی‌های دسته‌ای یا ترکیبی SVM for Categorical or Mixed Features

• محدودیت‌های SVM با حاشیه سخت Limitations of Hard Margin SVM

• استفاده از SVM برای طبقه‌بندی چندکلاسه SVM for Multiclass Classification

• خلاصه هفته هشتم Summary of Week-8

ماشین بردار پشتیبان (SVM) ۲ Support Vector Machine - 2

• نیاز به حاشیه نرم (Soft Margin) Need for Soft Margin

• مقدمه‌ای بر متغیرهای Slack و تابع زیان Hinge Introduction to Slack Variables and Hinge Loss

• فرمول‌بندی حاشیه نرم Soft Margin Formulation

• نقش پارامتر منظم‌سازی C Role of Regularisation Parameter C

• مقایسه حاشیه سخت و حاشیه نرم Hard Margin vs. Soft Margin

• داده‌های غیرخطی جداساز Non-Linear Separable Data

• تبدیل ویژگی برای مدیریت داده‌های غیرخطی جداساز Feature Transformation to Handle Non-Linear Separable Data

• الگوریتم SVM حاشیه نرم با تبدیل ویژگی Soft Margin SVM with Feature Transformation

• مقدمه‌ای بر ترفند هسته (Kernel Trick) Introduction to Kernel Trick

• نحوه استفاده از ترفند هسته How to Use Kernel Trick

• ویژگی‌های SVM Properties of SVM

• محدودیت‌های SVM Limitations of SVM

• مقایسه SVM و رگرسیون لجستیک SVM vs. Logistic Regression

• پیاده‌سازی پایتونی SVM با استفاده از scikit learn Python Implementation of SVM Using scikit-learn

• دموی هفته نهم M9 - Demo

• خلاصه هفته نهم Summary of Week-9

k-نزدیک‌ترین همسایه (KNN) K-Nearest Neighbour (KNN)

• یادگیری مبتنی بر نمونه (تنبل) چیست؟ What is Instance-Based (Lazy) Learning?

• یادگیری تنبل در مقابل یادگیری مشتاق Lazy Learning vs. Eager Learning

• معیار نزدیکی برای ویژگی‌های عددی و ترتیبی Proximity Measure for Numeric and Ordinal Features

• معیارهای نزدیکی برای ویژگی‌های دسته‌ای Proximity Measures for Categorical Features

• معیار نزدیکی برای ویژگی‌های ترکیبی Proximity Measure for Mixed Features

• الگوریتم KNN KNN Algorithm

• مرز تصمیم برای KNN Decision Boundary for KNN

• انتخاب مقدار بهینه K Choosing the Optimal Value of K

• اهمیت مقیاس‌بندی ویژگی‌ها در KNN Importance of Feature Scaling in KNN

• مزایا و معایب Pros and Cons

• چه زمانی استفاده کنیم؟ When to Use?

• انتخاب پارادایم یادگیری مناسب: تنبل در مقابل مشتاق Choosing the Right Learning Paradigm: Lazy vs. Eager

• نیاز به KNN با وزن‌دهی فاصله Need of Distance-Weighted KNN

• الگوریتم KNN با وزن‌دهی فاصله Distance-Weighted KNN

• پیاده‌سازی KNN با استفاده از پایتون Implementing KNN Using Python

• دموی هفته دهم M10 - Demo

• خلاصه هفته دهم Summary of Week-10

• جمع‌بندی نهایی دوره Course Wrapup