یادگیری عمیق: معماری‌های پیشرفته Backbone و آموزش بهینه GPU - آخرین آپدیت

دانلود Deep Learning: Advanced Backbones and Efficient GPU Training

نکته: ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره: در این دوره، معماری‌های پیشرفته یادگیری عمیق و تکنیک‌های آموزش بهینه را با استفاده از PyTorch Lightning، timm، ConvNeXt، Vision Transformers، RoPE، SwiGLU، RMSNorm و Weights & Biases بیاموزید. این دوره شما را قادر می‌سازد تا مدل‌های مدرن را بر روی سخت‌افزارهای GPU محدود طراحی، آموزش و بنچ‌مارک کنید تا برای استفاده در محیط‌های عملیاتی واقعی آماده شوید. ماژول ۱ به معرفی معماری‌های مدرن Backbone می‌پردازد و تکامل آن‌ها از ResNets تا ConvNeXt و Vision Transformers را بررسی کرده و مباحثی چون patch embeddings، multi-head self-attention و position encodings را پوشش می‌دهد. ماژول ۲ بر دینامیک‌های آموزش و تکنیک‌های تثبیت مدل، از جمله RMSNorm، توابع فعال‌ساز SwiGLU و Rotary Position Embeddings (RoPE) برای آموزش پایدار و مقیاس‌پذیر تمرکز دارد. ماژول ۳ بر آموزش بهینه روی GPUهای محدود با استفاده از دقت ترکیبی (FP16/BF16)، تجمع گرادیان (Gradient Accumulation)، خط‌لوله‌های داده بهینه و آموزش توزیع‌شده با DDP/FSDP در Lightning متمرکز است. ماژول ۴ شامل رهگیری آزمایش‌ها با TensorBoard و W&B، پروفایلینگ FLOPs و نرخ خروجی، و یک پروژه عملی مقایسه‌ای ViT در برابر CNN با استفاده از Fine-tuning در کتابخانه timm است. در پایان این دوره شما قادر خواهید بود: - معماری‌های ConvNeXt و Vision Transformer را با استفاده از PyTorch Lightning و timm بسازید و Fine-tune کنید. - از RMSNorm، SwiGLU و RoPE برای تثبیت و مقیاس‌بندی آموزش ترنسفورمرهای عمیق استفاده کنید. - دقت ترکیبی، تجمع گرادیان و DDP/FSDP را برای آموزش بهینه در محیط‌های چند GPU پیاده‌سازی کنید. - آزمایش‌های کنترل‌شده CNN در برابر ViT را با رهگیری W&B و پروفایلینگ PyTorch طراحی کنید. سلب مسئولیت: این یک منبع آموزشی مستقل است که توسط Board Infinity صرفاً برای مقاصد اطلاع‌رسانی و آموزشی ایجاد شده است. این دوره هیچ وابستگی، تاییدیه یا حمایت رسمی از هیچ شرکت، سازمان یا نهاد صدور گواهینامه‌ای ندارد مگر اینکه صراحتاً ذکر شده باشد. محتوای ارائه شده بر اساس دانش صنعت و بهترین تجربیات است اما متریال آموزشی رسمی برای هیچ کارفرما یا برنامه گواهینامه‌ای خاص نیست. تمامی نام‌های شرکت‌ها، علائم تجاری و لوگوهای ذکر شده متعلق به مالکان مربوطه بوده و صرفاً برای شناسایی آموزشی و مقایسه‌ای استفاده شده‌اند.

سرفصل ها و درس ها

معماری‌های مدرن Backbone (ConvNeXt و Vision Transformers) Modern Backbone Architectures (ConvNeXt & Vision Transformers)

  • کاربردهای امروزی معماری‌های پیشرفته Where Advanced Architectures Are Used Today

  • شبکه‌های CNN در برابر ترنسفورمرها: واقعیت‌های صنعت CNNs vs Transformers: Industry Reality

  • مهارت‌های مورد نیاز برای مهندس بینایی ماشین Skills You Need as a Vision Engineer

  • چرا CNNهای کلاسیک دچار شکست شدند Why Classic CNNs Started Failing

  • اصلاحات ConvNeXt در CNNهای قدیمی What ConvNeXt Fixed in Old CNNs

  • مقایسه ResNet و ConvNeXt - بخش اول ResNet vs ConvNeXt – Part 1

  • مقایسه ResNet و ConvNeXt - بخش دوم ResNet vs ConvNeXt - Part 2

  • تبدیل تصاویر به توکن‌ها چگونه انجام می‌شود How Images Become Tokens

  • مکانیزم Attention واقعاً چه کاری انجام می‌دهد What Attention Really Does

  • انتخاب Backbone مناسب: CNN در برابر ViT CNN vs ViT: Choosing the Right Backbone

دینامیک‌های آموزش و تکنیک‌های تثبیت Training Dynamics & Stabilization Techniques

  • چرا به نرمال‌سازی نیاز داریم Why Normalization Is Needed

  • مقایسه BatchNorm، LayerNorm و RMSNorm BatchNorm vs LayerNorm vs RMSNorm

  • اثرات عملی بر پایداری آموزش Practical Effects on Training Stability

  • چرا ReLU دیگر کافی نیست Why ReLU Is Not Enough Anymore

  • توضیح بصری GELU و SwiGLU GELU & SwiGLU Explained Visually

  • دستاوردهای عملی: پایداری، قدرت بیان و سرعت همگرایی Practical Gains: Stability, Expressiveness, Convergence Speed

  • اهمیت کدگذاری موقعیت (Position Encoding) Why Position Encoding Matters

  • توضیح مفهومی RoPE RoPE Explained Intuitively

آموزش بهینه بر روی GPUهای محدود Efficient Training on Limited GPUs

  • اهمیت دقت ترکیبی (Mixed Precision) Why Mixed Precision Matters

  • مقایسه FP16 و BF16: چه زمانی از کدام استفاده کنیم FP16 vs BF16: When to Use What

  • خطاهای رایج در دقت ترکیبی Common Mixed Precision Failures

  • تجمع گرادیان واقعاً چه کاری انجام می‌دهد What Gradient Accumulation Really Does

  • توضیح شفاف اندازه دسته موثر (Effective Batch Size) Effective Batch Size Explained Clearly

  • مشکلات پایداری در دسته‌های بزرگ (Large Batches) Stability Issues with Large Batches

  • تک GPU در برابر چند GPU: زمان مقیاس‌بندی Single GPU vs Multi-GPU: When to Scale

  • انتخاب بین DDP و FSDP DDP vs FSDP (Decision-Based)

  • اندازه‌گیری صحیح سرعت و حافظه Measuring Speed & Memory Correctly

آزمایش، رهگیری و پروژه مقایسه‌ای ViT در برابر CNN Experimentation, Tracking & The ViT vs CNN Showdown Project

  • چه مواردی را باید رهگیری کرد What to Track

  • بصری‌سازی منحنی‌های Loss، نرم گرادیان و حالت‌های شکست Visualizing Loss Curves, Gradient Norms & Failure Modes

  • پروفایلینگ حافظه و FLOPs Profiling Memory & FLOPs

  • چگونه مقایسه‌های اشتباه رخ می‌دهند How Bad Comparisons Happen

  • کنترل صحیح متغیرها Controlling Variables Properly

  • طرح فرضیات روشن Forming Clear Hypotheses

  • بهینه‌سازی (Fine Tuning) مدل‌های ConvNeXt و ViT Fine-Tuning ConvNeXt & ViT

  • بهینه‌سازی مدل‌های ConvNeXt و ViT - بخش دوم Fine-Tuning ConvNeXt & ViT Part 2

  • بهینه‌سازی مدل‌های ConvNeXt و ViT - بخش سوم Fine-Tuning ConvNeXt & ViT Part 3

  • پیاده‌سازی دقت ترکیبی و تکنیک‌های بهینه‌سازی - بخش اول Applying Mixed Precision & Efficiency Techniques Part -1

  • پیاده‌سازی دقت ترکیبی و تکنیک‌های بهینه‌سازی Applying Mixed Precision & Efficiency Techniques

  • تفسیر نتایج مانند یک مهندس حرفه‌ای Interpreting Results Like an Engineer

نمایش نظرات

یادگیری عمیق: معماری‌های پیشرفته Backbone و آموزش بهینه GPU
جزییات دوره
21h 26m
39
(آخرین آپدیت)
228
- از 5
دارد
دارد
دارد
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Board Infinity Board Infinity

Board Infinity: توانمندسازی مشاغل با مسیرهای یادگیری