آموزش آمار کارشناسی ارشد و یادگیری ماشین: شهود، ریاضی، کد

سرفصل ها و درس ها

مقدمه ها Introductions

• [مهم] بیشترین بهره را از این دوره ببرید [Important] Getting the most out of this course

• در مورد استفاده از MATLAB یا Python About using MATLAB or Python

• بازی حدس آماری! Statistics guessing game!

• استفاده از انجمن پرسش و پاسخ Using the Q&A forum

• (اختیاری) وارد کردن یادداشت های دارای مهر زمانی در پخش کننده ویدیوی Udemy (optional) Entering time-stamped notes in the Udemy video player

پیش نیازهای ریاضی Math prerequisites

• آیا باید فرمول های آماری را حفظ کنید؟ Should you memorize statistical formulas?

• حساب و توان Arithmetic and exponents

• نماد علمی Scientific notation

• نماد جمع Summation notation

• قدر مطلق Absolute value

• توان طبیعی و لگاریتم Natural exponent and logarithm

• عملکرد لجستیک The logistic function

• رتبه و رده بندی Rank and tied-rank

مهم: مطالب دوره را دانلود کنید IMPORTANT: Download course materials

• دانلود مطالب برای کل دوره! Download materials for the entire course!

داده ها چیست؟ What are (is?) data?

• «داده» مفرد است یا جمع؟!؟!؟! Is "data" singular or plural?!?!!?!

• داده ها از کجا می آیند و به چه معنا هستند؟ Where do data come from and what do they mean?

• انواع داده ها: مقوله ای، عددی و غیره Types of data: categorical, numerical, etc

• کد: نشان دهنده انواع داده ها در رایانه است Code: representing types of data on computers

• داده های نمونه در مقابل جمعیت Sample vs. population data

• نمونه ها، گزارش های موردی و حکایت ها Samples, case reports, and anecdotes

• اخلاقیات ساخت داده ها The ethics of making up data

تجسم داده ها Visualizing data

• قطعه های بار Bar plots

• کد: قطعه نوار Code: bar plots

• طرح های جعبه و سبیل Box-and-whisker plots

• کد: طرح های جعبه ای Code: box plots

• "یادگیری بدون نظارت": جعبه های نویز معمولی و یکنواخت "Unsupervised learning": Boxplots of normal and uniform noise

• هیستوگرام ها Histograms

• کد: هیستوگرام Code: histograms

• «یادگیری بدون نظارت»: نسبت هیستوگرام "Unsupervised learning": Histogram proportion

• نمودارهای دایره ای Pie charts

• کد: نمودار دایره ای Code: pie charts

• چه زمانی به جای نوارها از خطوط استفاده کنیم When to use lines instead of bars

• مقیاس بندی محور خطی در مقابل لگاریتمی Linear vs. logarithmic axis scaling

• کد: خطوط خطی Code: line plots

• "یادگیری بدون نظارت": نمودارهای با مقیاس گزارش "Unsupervised learning": log-scaled plots

آمار توصیفی Descriptive statistics

• آمار توصیفی در مقابل آمار استنباطی Descriptive vs. inferential statistics

• دقت، دقت، وضوح Accuracy, precision, resolution

• توزیع داده ها Data distributions

• کد: داده ها از توزیع های مختلف Code: data from different distributions

• "یادگیری بدون نظارت": هیستوگرام توزیع ها "Unsupervised learning": histograms of distributions

• زیبایی و سادگی نرمال The beauty and simplicity of Normal

• معیارهای گرایش مرکزی (میانگین) Measures of central tendency (mean)

• معیارهای گرایش مرکزی (میانگین، حالت) Measures of central tendency (median, mode)

• کد: گرایش مرکزی محاسباتی Code: computing central tendency

• "یادگیری بدون نظارت": گرایش های مرکزی با نقاط پرت "Unsupervised learning": central tendencies with outliers

• اندازه گیری های پراکندگی (واریانس، انحراف معیار) Measures of dispersion (variance, standard deviation)

• کد: پراکندگی محاسباتی Code: Computing dispersion

• محدوده بین چارکی (IQR) Interquartile range (IQR)

• کد: IQR Code: IQR

• نمودارهای QQ QQ plots

• کد: نمودارهای QQ Code: QQ plots

• "لحظات" آماری Statistical "moments"

• هیستوگرام قسمت 2: تعداد سطل ها Histograms part 2: Number of bins

• کد: سطل های هیستوگرام Code: Histogram bins

• نقشه های ویولن Violin plots

• کد: طرح های ویولن Code: violin plots

• "یادگیری بدون نظارت": طرح های ویولن نامتقارن "Unsupervised learning": asymmetric violin plots

• آنتروپی شانون Shannon entropy

• کد: آنتروپی Code: entropy

• «یادگیری بدون نظارت»: آنتروپی و تعداد سطل ها "Unsupervised learning": entropy and number of bins

نرمال سازی داده ها و مقادیر پرت Data normalizations and outliers

• زباله داخل، زباله بیرون (GIGO) Garbage in, garbage out (GIGO)

• استانداردسازی امتیاز Z Z-score standardization

• کد: z-score Code: z-score

• مقیاس بندی حداقل حداکثر Min-max scaling

• کد: مقیاس بندی حداقل حداکثر Code: min-max scaling

• "یادگیری بدون نظارت": مقیاس حداقل حداکثری را معکوس کنید "Unsupervised learning": Invert the min-max scaling

• نقاط پرت چیست و چرا خطرناک هستند؟ What are outliers and why are they dangerous?

• حذف نقاط پرت: روش z-score Removing outliers: z-score method

• روش z-score اصلاح شده The modified z-score method

• کد: z-score برای حذف موارد پرت Code: z-score for outlier removal

• "یادگیری بدون نظارت": z در مقابل اصلاح شده-z "Unsupervised learning": z vs. modified-z

• تشخیص بیرونی چند متغیره Multivariate outlier detection

• کد: فاصله اقلیدسی برای حذف نقاط پرت Code: Euclidean distance for outlier removal

• حذف نقاط پرت با برش داده ها Removing outliers by data trimming

• کد: برش داده ها برای حذف نقاط پرت Code: Data trimming to remove outliers

• راه حل های ناپارامتریک برای اعداد پرت Non-parametric solutions to outliers

• تبدیل داده های غیر خطی Nonlinear data transformations

• یک سخنرانی پرت در مورد مسئولیت پذیری شخصی An outlier lecture on personal accountability

نظریه احتمال Probability theory

• احتمال چیست؟ What is probability?

• احتمال در مقابل نسبت Probability vs. proportion

• محاسبات احتمالات Computing probabilities

• کد: محاسبه احتمالات Code: compute probabilities

• احتمال و شانس Probability and odds

• "یادگیری بدون نظارت": احتمالات فضای شانس "Unsupervised learning": probabilities of odds-space

• جرم احتمال در برابر چگالی Probability mass vs. density

• کد: محاسبه توابع جرم احتمال Code: compute probability mass functions

• توابع توزیع تجمعی Cumulative distribution functions

• کد: cdf و pdf Code: cdfs and pdfs

• "یادگیری بدون نظارت": سی دی اف برای توزیع های مختلف "Unsupervised learning": cdf's for various distributions

• ایجاد توزیع های برآورد نمونه Creating sample estimate distributions

• نمونه گیری مونت کارلو Monte Carlo sampling

• تنوع نمونه برداری، نویز، و سایر مزاحمت ها Sampling variability, noise, and other annoyances

• کد: تنوع نمونه گیری Code: sampling variability

• ارزش مورد انتظار Expected value

• احتمال مشروط Conditional probability

• کد: احتمالات مشروط Code: conditional probabilities

• نمودارهای درختی برای احتمالات شرطی Tree diagrams for conditional probabilities

• قانون اعداد بزرگ The Law of Large Numbers

• کد: قانون اعداد بزرگ در عمل Code: Law of Large Numbers in action

• قضیه حد مرکزی The Central Limit Theorem

• کد: CLT در عمل Code: the CLT in action

• «یادگیری بدون نظارت»: میانگین جفت اعداد "Unsupervised learning": Averaging pairs of numbers

آزمایش فرضیه Hypothesis testing

• IV ها، DV ها، مدل ها، و دیگر زبان آماری IVs, DVs, models, and other stats lingo

• فرضیه چیست و چگونه آن را مشخص می کنید؟ What is an hypothesis and how do you specify one?

• توزیع نمونه تحت فرضیه های صفر و جایگزین Sample distributions under null and alternative hypotheses

• P-values: تعریف، دنباله ها و تفسیرهای نادرست P-values: definition, tails, and misinterpretations

• ترکیبات P-z که باید به خاطر بسپارید P-z combinations that you should memorize

• درجه آزادی Degrees of freedom

• خطاهای نوع 1 و نوع 2 Type 1 and Type 2 errors

• آزمون های پارامتریک در مقابل آزمون های ناپارامتریک Parametric vs. non-parametric tests

• مقایسه های متعدد و تصحیح بونفرونی Multiple comparisons and Bonferroni correction

• اهمیت آماری در مقابل نظری در مقابل اهمیت بالینی Statistical vs. theoretical vs. clinical significance

• اعتبار سنجی متقابل Cross-validation

• اهمیت آماری در مقابل دقت طبقه بندی Statistical significance vs. classification accuracy

خانواده آزمون t The t-test family

• هدف و تفسیر آزمون t Purpose and interpretation of the t-test

• آزمون t تک نمونه ای One-sample t-test

• کد: آزمون t تک نمونه ای Code: One-sample t-test

• «یادگیری بدون نظارت»: نقش واریانس "Unsupervised learning": The role of variance

• آزمون t دو نمونه ای Two-samples t-test

• کد: t-test دو نمونه Code: Two-samples t-test

• "یادگیری بدون نظارت": اهمیت N برای آزمون t "Unsupervised learning": Importance of N for t-test

• رتبه علامت دار ویلکاکسون (آزمون تی ناپارامتریک) Wilcoxon signed-rank (nonparametric t-test)

• کد: آزمون رتبه ای امضا شده Code: Signed-rank test

• آزمون U Mann-Whitney (آزمون تی ناپارامتریک) Mann-Whitney U test (nonparametric t-test)

• کد: آزمون U Mann-Whitney Code: Mann-Whitney U test

• آزمایش جایگشت برای معنی‌داری آزمون t Permutation testing for t-test significance

• کد: تست جایگشت Code: permutation testing

• "یادگیری بدون نظارت": چند جایگشت؟ "Unsupervised learning": How many permutations?

فواصل اطمینان در پارامترها Confidence intervals on parameters

• فواصل اطمینان چیست و چرا به آنها نیاز داریم؟ What are confidence intervals and why do we need them?

• محاسبه فواصل اطمینان از طریق فرمول Computing confidence intervals via formula

• کد: فواصل اطمینان را با فرمول محاسبه کنید Code: compute confidence intervals by formula

• فواصل اطمینان از طریق راه‌اندازی (نمونه‌گیری مجدد) Confidence intervals via bootstrapping (resampling)

• کد: فواصل اطمینان بوت استرپینگ Code: bootstrapping confidence intervals

• "یادگیری بدون نظارت:" فواصل اطمینان برای واریانس "Unsupervised learning:" Confidence intervals for variance

• باورهای غلط در مورد فواصل اطمینان Misconceptions about confidence intervals

همبستگی Correlation

• انگیزه و توصیف همبستگی Motivation and description of correlation

• کوواریانس و همبستگی: فرمول ها Covariance and correlation: formulas

• کد: ضریب همبستگی Code: correlation coefficient

• کد: شبیه سازی داده ها با همبستگی مشخص Code: Simulate data with specified correlation

• ماتریس همبستگی Correlation matrix

• کد: ماتریس همبستگی Code: correlation matrix

• "یادگیری بدون نظارت": ماتریس های همبستگی متوسط "Unsupervised learning": average correlation matrices

• "یادگیری بدون نظارت": همبستگی با ماتریس کوواریانس "Unsupervised learning": correlation to covariance matrix

• همبستگی جزئی Partial correlation

• کد: همبستگی جزئی Code: partial correlation

• مشکل پیرسون The problem with Pearson

• همبستگی ناپارامتریک: رتبه اسپیرمن Nonparametric correlation: Spearman rank

• تبدیل فیشر-زی برای همبستگی ها Fisher-Z transformation for correlations

• کد: همبستگی اسپیرمن و فیشر-زی Code: Spearman correlation and Fisher-Z

• "یادگیری بدون نظارت": همبستگی اسپیرمن "Unsupervised learning": Spearman correlation

• "یادگیری بدون نظارت": فاصله اطمینان بر همبستگی "Unsupervised learning": confidence interval on correlation

• همبستگی کندال برای داده های ترتیبی Kendall's correlation for ordinal data

• کد: همبستگی کندال Code: Kendall correlation

• "یادگیری بدون نظارت": آیا کندال در مقابل پیرسون اهمیت دارد؟ "Unsupervised learning": Does Kendall vs. Pearson matter?

• پارادوکس همبستگی زیرگروه ها The subgroups correlation paradox

• شباهت کسینوس Cosine similarity

• کد: شباهت کسینوس در مقابل همبستگی پیرسون Code: Cosine similarity vs. Pearson correlation

تجزیه و تحلیل واریانس (ANOVA) Analysis of Variance (ANOVA)

• مقدمه ANOVA، قسمت 1 ANOVA intro, part1

• مقدمه ANOVA، قسمت 2 ANOVA intro, part 2

• مجموع مربعات Sum of squares

• آزمون F و جدول ANOVA The F-test and the ANOVA table

• آزمون F-Omnibus و مقایسات پس از آن The omnibus F-test and post-hoc comparisons

• ANOVA دو طرفه The two-way ANOVA

• مثال ANOVA یک طرفه One-way ANOVA example

• کد: ANOVA یک طرفه (نمونه های مستقل) Code: One-way ANOVA (independent samples)

• کد: ANOVA با اندازه گیری های مکرر یک طرفه Code: One-way repeated-measures ANOVA

• مثال ANOVA دو طرفه Two-way ANOVA example

• کد: ANOVA مخلوط دو طرفه Code: Two-way mixed ANOVA

پسرفت Regression

• مقدمه ای بر GLM/رگرسیون Introduction to GLM / regression

• راه حل حداقل مربعات برای GLM Least-squares solution to the GLM

• ارزیابی مدل های رگرسیون: R2 و F Evaluating regression models: R2 and F

• رگرسیون ساده Simple regression

• کد: رگرسیون ساده Code: simple regression

• "یادگیری بدون نظارت": R2 و F را محاسبه کنید "Unsupervised learning": Compute R2 and F

• رگرسیون چندگانه Multiple regression

• استانداردسازی ضرایب رگرسیون Standardizing regression coefficients

• کد: رگرسیون چندگانه Code: Multiple regression

• مدل های رگرسیون چند جمله ای Polynomial regression models

• کد: مدل سازی چند جمله ای Code: polynomial modeling

• "یادگیری بدون نظارت": ماتریس طراحی چند جمله ای "Unsupervised learning": Polynomial design matrix

• رگرسیون لجستیک Logistic regression

• کد: رگرسیون لجستیک Code: Logistic regression

• کم و بیش از حد مناسب Under- and over-fitting

• "یادگیری بدون نظارت": داده های اضافه برازش "Unsupervised learning": Overfit data

• مقایسه مدل های "تودرتو". Comparing "nested" models

• در مورد داده های از دست رفته چه باید کرد What to do about missing data

توان آماری و حجم نمونه Statistical power and sample sizes

• قدرت آماری چیست و چرا اهمیت دارد؟ What is statistical power and why is it important?

• برآورد توان آماری و حجم نمونه Estimating statistical power and sample size

• توان و اندازه نمونه را با استفاده از G*Power محاسبه کنید Compute power and sample size using G*Power

خوشه بندی و کاهش ابعاد Clustering and dimension-reduction

• K-به معنای خوشه بندی است K-means clustering

• کد: k-به معنی خوشه بندی Code: k-means clustering

• "یادگیری بدون نظارت:" K-means و عادی سازی "Unsupervised learning:" K-means and normalization

• "یادگیری بدون نظارت:" K-به معنای تاری گاوس است "Unsupervised learning:" K-means on a Gauss blur

• خوشه بندی از طریق dbscan Clustering via dbscan

• کد: dbscan Code: dbscan

• "یادگیری بدون نظارت": dbscan در مقابل k-means "Unsupervised learning": dbscan vs. k-means

• طبقه بندی K-نزدیک ترین همسایه K-nearest neighbor classification

• کد: KNN Code: KNN

• تجزیه و تحلیل اجزای اصلی (PCA) Principal components analysis (PCA)

• کد: PCA Code: PCA

• "یادگیری بدون نظارت:" K-به معنای داده های رایانه شخصی است "Unsupervised learning:" K-means on PC data

• تجزیه و تحلیل اجزای مستقل (ICA) Independent components analysis (ICA)

• کد: ICA Code: ICA

تئوری تشخیص سیگنال Signal detection theory

• دو دیدگاه جهان The two perspectives of the world

• d-prime d-prime

• کد: d-prime Code: d-prime

• سوگیری پاسخگویی Response bias

• کد: سوگیری پاسخ Code: Response bias

• امتیاز F F-score

• مشخصات عملکرد گیرنده (ROC) Receiver operating characteristics (ROC)

• کد: منحنی های ROC Code: ROC curves

• "یادگیری بدون نظارت": این طرح را زیباتر کنید! "Unsupervised learning": Make this plot look nicer!

یک سفر داده در دنیای واقعی A real-world data journey

• در مورد کد این بخش توجه کنید Note about the code for this section

• معرفی Introduction

• متلب: داده های ازدواج را وارد و پاک کنید MATLAB: Import and clean the marriage data

• متلب: داده های طلاق را وارد کنید MATLAB: Import the divorce data

• MATLAB: تجسم داده های بیشتر MATLAB: More data visualizations

• MATLAB: آمار استنباطی MATLAB: Inferential statistics

• پایتون: داده های ازدواج را وارد و پاک کنید Python: Import and clean the marriage data

• پایتون: داده های طلاق را وارد کنید Python: Import the divorce data

• پایتون: آمار استنباطی Python: Inferential statistics

• پیام های دریافتی Take-home messages

بخش پاداش Bonus section

• درباره یادگیری عمیق About deep learning

• محتوای جایزه Bonus content