آموزش بهینه‌سازی سیستم‌های هوش مصنوعی مولد (GenAI) برای سرعت و پایداری - آخرین آپدیت

سرفصل ها و درس ها

شناسایی گلوگاه‌های عملکردی Identifying Performance Bottlenecks

• معرفی دوره Course Introduction

• درک عملکرد سیستم‌های GenAI Understanding GenAI System Performance

• عیب‌یابی گلوگاه‌های پیش‌پردازش Diagnosing Preprocessing Bottlenecks

• تحلیل گلوگاه‌های استنتاج Analyzing Inference Bottlenecks

• تشخیص گلوگاه‌های بازیابی Detecting Retrieval Bottlenecks

بهینه‌سازی برای سرعت، نرخ پردازش و هزینه Optimizing for Speed, Throughput, and Cost

• معرفی استراتژی‌های بهینه‌سازی Introducing Optimization Strategies

• اعمال تکنیک‌های کوانتیزاسیون Applying Quantization Techniques

• بهره‌گیری از دسته‌بندی برای افزایش نرخ پردازش Leveraging Batching for Throughput

• پیاده‌سازی استراتژی‌های حافظه پنهان Implementing Caching Strategies

• پیش‌بینی و مدیریت هزینه‌ها Forecasting and Managing Costs

طراحی برای پایداری، قابلیت اطمینان و مقیاس‌پذیری Designing for Stability, Reliability, and Scalability

• معرفی الگوهای تاب‌آوری Introducing Resilience Patterns

• پیاده‌سازی تلاش‌های مجدد و جایگزین‌ها Implementing Retries and Fallbacks

• اعمال الگوهای مدارشکن Applying Circuit Breaker Patterns

• مانیتورینگ برای شناسایی انحراف و ناهنجاری‌ها Monitoring for Drift and Anomalies

• طراحی استقرارهای مقیاس‌پذیر Designing Scalable Deployments