آموزش توابع زیان و نرخ یادگیری برای دانشمندان داده - آخرین آپدیت

سرفصل ها و درس ها

توابع زیان: شبکه‌های عصبی چگونه اشتباهات را اندازه‌گیری می‌کنند Loss Functions: How Neural Networks Measure Mistakes

• مقدمه – موتور یادگیری Introduction — The Engine of Learning

• استعاره داستانی – کماندار و هدف Story Analogy — The Archer and the Target

• تابع زیان دقیقاً چیست؟ What Exactly is a Loss Function?

• زیان به عنوان بازخورد: کماندار چشم‌بسته Loss as Feedback: The Blindfolded Archer

• کوییز تمرینی – ۱ Practice Quiz – 1

• چرا خطا را به توان دو می‌رسانیم – سه دلیل اصلی Why We Square The Error — Three Reasons

• مثال – پیش‌بینی حقوق Example — Predicting Salary

• تحلیل squaring خطا Why We Square the Error

• کوییز تمرینی – ۲ Practice Quiz – 2

• دموی پایتون – MSE در عمل Python Demo — MSE in Action

• زیان + گرادیان نزولی – یک مشارکت Loss + Gradient Descent — The Partnership

• از اعداد MSE تا به‌روزرسانی وزن‌ها From MSE Numbers to Weight Updates

• کوییز تمرینی – ۳ Practice Quiz – 3

• توابع زیان رایج در رگرسیون Common Regression Losses

• زمانی که زیان بالا در مقابل پایین است When Loss is High vs Low

• انتخاب زیان رگرسیون: MSE, MAE, Huber Choosing a Regression Loss: MSE, MAE, Huber

• کوییز تمرینی – ۴ Practice Quiz – 4

• منحنی‌های زیان – شکل یادگیری Loss Curves — The Shape Of Learning

• خلاصه نهایی Final Summary

• منحنی‌های زیان: مشاهده فرآیند یادگیری Loss Curves: Watching Learning Happen

• کوییز تمرینی – ۵ Practice Quiz – 5

مبانی نرخ یادگیری – شبکه‌های عصبی چگونه گام‌هایی به سوی دقت برمی‌دارند Learning Rate Fundamentals – How Neural Networks Take Steps Toward Accuracy

• مقدمه – سرعت یادگیری Introduction — The Speed of Learning

• استعاره داستانی – پیاده‌روی از کوه به پایین Story Analogy — Walking Down a Mountain

• نرخ یادگیری چیست؟ What is the Learning Rate?

• نرخ یادگیری: هر گام چقدر بزرگ است؟ Learning Rate: How Big Is Each Step?

• کوییز تمرینی – ۶ Practice Quiz – 6

• چرا نرخ یادگیری کوچک می‌تواند شکست بخورد Why Small Learning Rate Can Fail

• چرا نرخ یادگیری بزرگ می‌تواند شکست بخورد Why Large Learning Rate Can Fail

• نقطه بهینه – یادگیری متوازن The Sweet Spot — Balanced Learning

• خیلی کوچک، خیلی بزرگ: چه مشکلاتی پیش می‌آید Too Small, Too Large: What Can Go Wrong

• کوییز تمرینی – ۷ Practice Quiz – 7

• دموی پایتون – خیلی کوچک، خیلی بزرگ، و اندازه مناسب Python Demo — Too Small, Too Large, Just Right

• منحنی‌های زیان همه چیز را فاش می‌کنند Loss Curves Reveal Everything

• مشاهده نرخ یادگیری از طریق آزمایشات Seeing Learning Rate Through Experiments

• کوییز تمرینی – ۸ Practice Quiz – 8

• تأثیر نرخ یادگیری بر تعمیم‌پذیری How Learning Rate Impacts Generalization

• زمان‌بندی نرخ یادگیری – هوشمند کردن آموزش Learning Rate Schedules — Making Training Smart

• نرخ یادگیری، تعمیم و زمان‌بندی‌ها Learning Rate, Generalization, and Schedules

• کوییز تمرینی – ۹ Practice Quiz – 9

• یافتم‌ر نرخ یادگیری (LR Finder) – یک تکنیک کاربردی Learning Rate Finder — A Practical Technique

• راهنمای عملی برای انتخاب LR Practical Guidelines for Choosing LR

• خلاصه – قلب سرعت آموزش Summary — The Heart Of Training Speed

• LR Finder و قوانین کاربردی LR Finder and Practical Rules

• کوییز تمرینی – ۱۰ Practice Quiz – 10

میانگین مربعات خطا (MSE) در شبکه‌های عصبی – تابع زیان اصلی برای رگرسیون Mean Squared Error (MSE) in Neural Networks – The Core Loss for Regression

• مقدمه – محبوب‌ترین تابع زیان Introduction — The Most Popular Loss Function

• چه زمانی از MSE استفاده می‌کنیم؟ – موارد کاربرد واقعی When Do We Use MSE? — The Real-Life Use Cases

• جایگاه MSE در مدل‌های واقعی Where MSE Shows Up in Real Models

• کوییز تمرینی – ۱۱ Practice Quiz –11

• MSE چیست؟ – توضیح شهودی What Is MSE? — Intuitive Explanation

• مثال کوچک – رابطه خطی ساده Mini Example — Simple Linear Relationship

• فرمول MSE، گام به گام MSE Formula, Step by Step

• کوییز تمرینی – ۱۲ Practice Quiz – 12

• دموی پایتون ۱ – محاسبه دستی MSE Python Demo 1 — Calculating MSE Manually

• MSE + گرادیان نزولی – یادگیری چگونه رخ می‌دهد MSE + Gradient Descent — How Learning Happens

• از MSE دستی به گرادیان‌ها From Manual MSE to Gradients

• کوییز تمرینی – ۱۳ Practice Quiz – 13

• دموی پایتون ۲ – آموزش یک شبکه عصبی با MSE Python Demo 2 — Training A Neural Network With MSE

• فلوچارت – آموزش مبتنی بر MSE Flowchart — MSE-Based Training

• یک حلقه کامل آموزش MSE از ابتدا تا انتها An End‑to‑End MSE Training Loop

• کوییز تمرینی – ۱۴ Practice Quiz – 14

• آنچه باید قبل از MSE بدانید What You Must Know Before MSE

• خلاصه نهایی – چرا MSE اهمیت دارد Final Summary — Why MSE Matters

• آنچه واقعاً باید درباره MSE بدانیم What We Really Need to Know About MSE

• کوییز تمرینی – ۱۵ Practice Quiz – 15

انتروپی متقاطع باینری – تابع زیان برای تصمیمات بله/خیر Binary Cross Entropy – The Loss Function for Yes/No Decisions

• مقدمه – تابع زیان برای طبقه‌بندی Introduction — The Loss Function for Classification

• انتروپی متقاطع باینری چیست؟ – داستانی ساده What Is Binary Cross Entropy? — Simple Story

• چرا توابع زیان رگرسیون برای سوالات بله/خیر شکست می‌خورند Why Regression Losses Fail for Yes/No Questions

• کوییز تمرینی – ۱۶ Practice Quiz – 16

• فرمول ریاضی (توضیح شده به زبان ساده) The Mathematical Formula (But Explained Like a Friend)

• جدول شهودی Intuitive Table

• خواندن فرمول BCE بدون ترس Reading the BCE Formula Without Fear

• کوییز تمرینی – ۱۷ Practice Quiz – 17

• چرا BCE در یادگیری عمیق محبوب است Why BCE Is Loved In Deep Learning

• کجا از BCE استفاده می‌کنیم Where We Use BCE

• داستان کوتاه – چرا انتروپی متقاطع منطقی است Mini Story — Why Cross Entropy Makes Sense

• اهمیت اعتماد: چرا BCE محبوب است Confidence Matters: Why BCE Is Loved

• کوییز تمرینی – ۱۸ Practice Quiz – 18

• دموی پایتون Python Demo

• مفاهیم ریاضی مورد نیاز قبل از یادگیری BCE The Math Concepts Needed Before Learning BCE

• BCE در کد: ما واقعاً چه چیزی را محاسبه می‌کنیم BCE in Code: What We Actually Compute

• کوییز تمرینی – ۱۹ Practice Quiz – 19

• دیاگرام – چشم‌انداز انتروپی متقاطع Diagram — Cross Entropy Landscape

• چرا BCE در طبقه‌بندی بهتر از MSE است Why BCE Beats MSE For Classification

• خلاصه نهایی Final Summary

• برتری BCE بر MSE برای طبقه‌بندی باینری Why BCE Beats MSE for Binary Classification

• کوییز تمرینی – ۲۰ Practice Quiz – 20

انتروپی متقاطع دسته‌ای – شبکه‌های عصبی چگونه تصمیمات چندکلاسی را می‌آموزند Categorical Cross Entropy – How Neural Networks Learn Multi‑Class Decisions

• مقدمه – تابع زیان برای یادگیری چندکلاسی Introduction — The Loss Function For Multi-Class Learning

• انتروپی متقاطع دسته‌ای چیست؟ – داستانی ساده What Is Categorical Cross Entropy? — Simple Story

• از بله/خیر به کلاس‌های متعدد From Yes/No to Many Classes

• کوییز تمرینی – ۲۱ Practice Quiz – 21

• فرمول ریاضی (توضیح دوستانه) The Mathematical Formula (Explained Friendly)

• دموی کوچک پایتون Tiny Python Demo

• درک فرمول CCE Understanding the CCE Formula

• کوییز تمرینی – ۲۲ Practice Quiz – 22

• طبقه‌بندی احساسات (امتیازات عددی) Sentiment Classification (Numeric Scores)

• حلقه آموزش – توضیح گام به گام Training Loop — Explained Step By Step

• Softmax + CCE: یک جفت طبیعی Softmax + CCE: A Natural Pair

• کوییز تمرینی – ۲۳ Practice Quiz – 23

• تست – پیش‌بینی احساسات Testing — Sentiment Prediction

• مورد کاربرد گسترده – طبقه‌بندی‌کننده واقعی احساسات متن Extended Use Case — Real Text Sentiment Classifier

• یک خط لوله کوچک احساسات ۳ کلاسی A Tiny 3‑Class Sentiment Pipeline

• کوییز تمرینی – ۲۴ Practice Quiz – 24

• چرا انتروپی متقاطع دسته‌ای بهترین گزینه برای چندکلاسی است Why Categorical Cross Entropy Is The Best For Multi-Class

• مفاهیم ریاضی مورد نیاز Math Concepts Required

• دیاگرام – شکل زیان انتروپی متقاطع Diagram — Cross Entropy Loss Shape

• خلاصه نهایی Final Summary

• چرا CCE استاندارد چندکلاسی است Why CCE Is the Multi‑Class Standard

• کوییز تمرینی – ۲۵ Practice Quiz – 25

مشکل محو شدن گرادیان – چرا شبکه‌های عمیق یادگیری را فراموش می‌کنند The Vanishing Gradient Problem – Why Deep Networks Forget to Learn

• مقدمه – مشکل محو شدن گرادیان Introduction — The Vanishing Gradient Problem

• گرادیان‌ها چیستند؟ What Are Gradients?

• گرادیان‌ها به عنوان سیگنال‌های یادگیری Gradients as Learning Signals

• کوییز تمرینی – ۲۶ Practice Quiz – 26

• چرا گرادیان‌ها محو می‌شوند؟ (شهود ریاضی) Why Do Gradients Vanish? (The Math Intuition)

• بصری‌سازی اثر Visualizing The Effect

• چرا گرادیان‌ها در شبکه‌های عمیق ناپدید می‌شوند Why Gradients Disappear in Deep Networks

• کوییز تمرینی – ۲۷ Practice Quiz – 27

• محو شدن گرادیان‌ها در RNNها Vanishing Gradients in RNNs

• چرا RNNها این مشکل را بیشتر حس می‌کنند Why RNNs Feel It Even More

• کوییز تمرینی – ۲۸ Practice Quiz – 28

• فعال‌ساز ReLU ReLU Activation

• مقداردهی اولیه He و Xavier He & Xavier Initialization

• نرمال‌سازی دسته‌ای (Batch Normalization) Batch Normalization

• Resnets (اتصالات جهشی) Resnets (Skip Connections)

• LSTM و GRU برای توالی‌ها LSTM & GRU For Sequences

• جعبه‌ابزار مبارزه با محو شدن گرادیان The Toolbox for Fighting Vanishing Gradients

• کوییز تمرینی – ۲۹ Practice Quiz – 29

• دموی کوچک پایتون – مشاهده محو شدن گرادیان‌ها Mini Python Demo — Seeing Gradients Vanish

• خلاصه Summary

• مشاهده گرادیان‌های محو شده و رفع آن‌ها Seeing Vanishing Gradients and Fixing Them

• کوییز تمرینی – ۳۰ Practice Quiz – 30

الگوریتم‌های نرخ یادگیری تطبیقی – RMSprop، Adam و بهینه‌سازی مدرن Adaptive Learning Rate Algorithms – RMSprop, Adam & Modern Optimization

• مقدمه – نرخ‌های یادگیری تطبیقی Introduction — Adaptive Learning Rates

• چرا نرخ‌های یادگیری ثابت مشکل‌ساز هستند Why Fixed Learning Rates Are A Problem

• چرا یک نرخ یادگیری ثابت کافی نیست Why One Fixed Learning Rate Isn’t Enough

• کوییز تمرینی – ۳۱ Practice Quiz – 31

• RMSprop – انتشار میانگین مربعات ریشه RMSprop — Root Mean Square Propagation

• چرا RMSprop کار می‌کند Why RMSprop Works

• RMSprop: به خاطر سپردن گرادیان‌های مربعی RMSprop: Remembering Squared Gradients

• کوییز تمرینی – ۳۲ Practice Quiz – 32

• Adam – تخمین لحظه‌ای تطبیقی Adam — Adaptive Moment Estimation

• چرا Adam در یادگیری عمیق غالب است Why Adam Dominates Deep Learning

• Adam: تلاقی مومتوم و RMSprop Adam: Momentum Meets RMSprop

• کوییز تمرینی – ۳۳ Practice Quiz – 33

• بصری‌سازی Adam در مقابل SGD و RMSprop Visualizing Adam vs SGD vs RMSprop

• زمانی که Adam ممکن است ایده‌آل نباشد When Adam Might Not Be Ideal

• تفاوت حرکت SGD، RMSprop و Adam How SGD, RMSprop, and Adam Move Differently

• کوییز تمرینی – ۳۴ Practice Quiz – 34

• دموی کوچک پایتون – استفاده از RMSprop و Adam Python Mini-Demo — Using RMSprop & Adam

• جدول مقایسه‌ای خلاصه Summary Comparison Table

• خلاصه نهایی Final Summary

• انتخاب‌های کاربردی: چه زمانی از کدام بهینه‌ساز استفاده کنیم Practical Choices: When to Use Which Optimizer

• کوییز تمرینی – ۳۵ Practice Quiz – 35

تأثیر اندازه دسته (Batch Size) بر همگرایی – مینی‌بچ‌ها چگونه آموزش را شکل می‌دهند Batch Size Impact on Convergence – How Mini‑Batches Shape Training

• مقدمه – اندازه دسته و دینامیک آموزش Introduction — Batch Size And Training Dynamics

• اندازه دسته (Batch Size) چیست؟ (مفهوم) What Is Batch Size? (Concept)

• معنای واقعی اندازه دسته What Batch Size Really Means

• کوییز تمرینی – ۳۶ Practice Quiz – 36

• رفتار گرادیان با اندازه‌های مختلف دسته Gradient Behavior With Different Batch Sizes

• گرادیان نزولی دسته کامل (Full Batch) Full Batch Gradient Descent

• گرادیان نزولی تصادفی (SGD) Stochastic Gradient Descent (SGD)

• نویز در مقابل پایداری: اندازه دسته چگونه گرادیان‌ها را شکل می‌دهد Noise vs Stability: How Batch Size Shapes Gradients

• کوییز تمرینی – ۳۷ Practice Quiz – 37

• چرا مینی‌بچ بهترین مصالحه است Why Mini-Batch Is The Best Compromise

• تأثیر اندازه دسته بر سرعت همگرایی How Batch Size Affects Convergence Speed

• چرا مینی‌بچ نقطه بهینه است Why Mini‑Batch Is the Sweet Spot

• کوییز تمرینی – ۳۸ Practice Quiz – 38

• تعمیم‌پذیری در مقابل بهینه‌سازی Generalization Vs Optimization

• تأثیر اندازه دسته بر مینیمم‌های تیز در مقابل تخت How Batch Size Influences Sharp Vs Flat Minima

• مینیمم تیز در مقابل تخت: چرا اندازه دسته بر تعمیم تأثیر می‌گذارد Sharp vs Flat Minima: Why Batch Size Affects Generalization

• کوییز تمرینی – ۳۹ Practice Quiz – 39

• راهنمای کاربردی برای انتخاب اندازه دسته Practical Guidelines For Choosing Batch Size

• دموی کوچک پایتون – اندازه‌های مختلف دسته Python Mini-Demo — Different Batch Sizes

• خلاصه نهایی Final Summary

• انتخاب‌های کاربردی برای اندازه دسته Practical Batch Size Choices

• کوییز تمرینی – ۴۰ Practice Quiz – 40