آموزش MLOps برای هوش مصنوعی مولد (Generative AI) - آخرین آپدیت
دانلود MLOps for Generative AI
این دوره شامل استفاده از هوش مصنوعی است.
از AI برای بازنویسی متون، اصلاح غلطهای املایی، دستوری و تبدیل صوتی استفاده شده است.
ساخت یک دموی GenAI تنها یک بعدازظهر زمان میبرد. اما ساخت یک سیستم GenAI که هزاران نفر به آن متکی باشند، که بتوانید ساعت ۲ صبح آن را دیباگ کنید و بدون آنکه کیفیتش افت کند یا بودجهاش تمام شود، به درستی کار کند — اینجاست که به MLOps نیاز دارید. هوش مصنوعی مولد بیشتر مفروضاتی که MLOps کلاسیک بر اساس آنها ساخته شده بود را تغییر میدهد: مدل غیرقطعی است، «کد» تا حدودی یک پرامپت است، اندازهگیری کیفیت دشوار است و هزینهها متغیر هستند. این دوره دیسیپلینی را که این شکاف را پر میکند، به صورت عملی و با پایتون آموزش میدهد.
این دوره برای مهندسان یادگیری ماشین، دانشمندان داده، مهندسان DevOps و پلتفرم، و معماران AI طراحی شده است که نیاز دارند اپلیکیشنهای مدلهای زبانی بزرگ (LLM) را عملیاتی کنند — نه فقط یک بار فراخوانی API، بلکه نسخهبندی، استقرار، مانیتورینگ، ارزیابی و بهینه کردن هزینه و قابلیت اطمینان آن. شما فقط مفاهیم را نخواهید شنید، بلکه خواهید ساخت: یک رجیستری برای مدلها و پرامپتها، مدیریت پرامپتها به عنوان کد نسخهبندی شده، سرویس GenAI با FastAPI، کانتینریزه و مقیاسپذیر، همراه با Logging، Tracing، ارزیابی، شناسایی Drift، تست A/B و کنترل هزینهها.
ما کل چرخه حیات را بررسی میکنیم: چرا GenAI به MLOps اختصاصی نیاز دارد؛ نسخهبندی مدلها، پرامپتها و دادهها برای بازتولیدپذیری؛ مهندسی پرامپت به عنوان کد عملیاتی با Guardrails و خروجی ساختاریافته؛ استقرار و مقیاسبندی APIهای LLM؛ مانیتورینگ و ارزیابی خروجیهای غیرقطعی به صورت آفلاین و آنلاین؛ تست، A/B Testing و بازآموزی؛ و بخشهایی که تعیین میکند آیا یک سیستم GenAI در محیط عملیاتی دوام میآورد یا خیر — هزینه (FinOps)، امنیت (تزریق پرامپت، اسرار)، حاکمیت و قابلیت اطمینان با Fallbacks و Circuit Breakers.
هر تصمیم مربوط به هزینه و مقیاس با یک مثال جهانی (دلار) و یک مثال محلی (روپیه هند) همراه است تا تحلیلهای هزینه در هر کجا که کار میکنید ملموس باشد. من بیش از بیست سال تجربه در پیادهسازی AI و اتوماسیون در عملیات واقعی دارم و با شکافهای مانیتورینگ، قبضهای غافلگیرکننده و بیداریهای ساعت ۲ صبح برای رفع خطا آشنا هستم. در پایان این دوره، شما قادر خواهید بود یک پروتوتایپ GenAI را به یک سرویس عملیاتی مانیتور شده، کنترل شده از نظر هزینه و قابل اعتماد تبدیل کنید و آن را به اثبات برسانید. همین حالا ثبتنام کنید و به مهندسی تبدیل شوید که GenAIهای پایدار را عرضه میکند.
مبانی: MLOps برای هوش مصنوعی مولد Foundations: MLOps for GenAI
-
چرا GenAI به MLOps اختصاصی نیاز دارد Why GenAI Needs Its Own MLOps
-
تفاوتها چیست: پرامپتها، غیرقطعی بودن و Drift What's Different: Prompts, Non-Determinism, Drift
-
نحوه استفاده از این دوره (و منابع کد) How to Use This Course (and the Code Resources)
نسخهبندی همهجانبه: پرامپتها، مدلها و پیکربندیها Versioning Everything: Prompts, Models, Configs
-
چه چیزی در GenAI تغییر میکند و چرا باید نسخهبندی شود What Changes in GenAI - and Why Version It
-
ساخت رجیستری پرامپت در پایتون A Prompt Registry in Python
-
نسخهبندی مدلها، پارامترها و پیکربندیها Versioning Models, Params & Configs
-
ردیابی آزمایشها (Experiment Tracking) برای GenAI Experiment Tracking for GenAI
مهندسی پرامپت و مدیریت آن در محیط عملیاتی Prompt Engineering & Management in Production
-
پرامپتها به عنوان کد عملیاتی Prompts as Production Code
-
قالبهای پرامپت (Templates) و درونیابی ایمن Prompt Templates & Safe Interpolation
-
تست کردن پرامپتها Testing Prompts
-
عرضه ایمن و بازگردانی (Rollback) تغییرات پرامپت Safe Rollout & Rollback of Prompt Changes
-
مدیریت پرامپتها در مقیاس بالا Managing Prompts at Scale
پیادهسازی مهندسی پرامپت در تولید Prompt Engineering in Production
-
از پرامپتهای موردی به پرامپتهای مدیریت شده From Ad-hoc Prompts to Managed Prompts
-
تمرین عملی: قالبها، نسخهها و پیکربندی پرامپت Hands-On: Prompt Templates, Versions & Config
-
گاردریلها، اعتبارسنجی و خروجی ساختاریافته Guardrails, Validation & Structured Output
-
کشینگ (Caching) و کنترل هزینه در لایه پرامپت Caching & Cost Control at the Prompt Layer
استقرار مقیاسپذیر APIهای GenAI Deploying GenAI APIs at Scale
-
ارائه اپلیکیشنهای LLM در مقیاس بالا Serving LLM Applications at Scale
-
تمرین عملی: ساخت سرویس GenAI با FastAPI Hands-On: A FastAPI GenAI Service
-
کانتینریزه کردن و مقیاسبندی با Docker و Kubernetes Containerize & Scale with Docker and Kubernetes
-
تأخیر، استریمینگ و توان عملیاتی Latency, Streaming & Throughput
مانیتورینگ و ارزیابی GenAI Monitoring & Evaluating GenAI
-
چرا مانیتورینگ GenAI متفاوت است Why GenAI Monitoring Is Different
-
تمرین عملی: Logging، Tracing و متریکها Hands-On: Logging, Tracing & Metrics
-
ارزیابی خروجی LLM: آفلاین و آنلاین Evaluating LLM Output: Offline & Online
-
شناسایی Drift، توهمات و پسرفت (Regression) Detecting Drift, Hallucination & Regression
تست، A/B Testing و تحویل مداوم (CD) Testing, A/B & Continuous Delivery
-
تست سیستمهای غیرقطعی GenAI Testing Non-Deterministic GenAI Systems
-
تست A/B برای پرامپتها و مدلها A/B Testing Prompts & Models
-
حلقههای بازخورد، Fine-tuning و بازآموزی Feedback Loops, Fine-Tuning & Retraining
-
تحویل مداوم (CD) برای GenAI Continuous Delivery for GenAI
هزینه، امنیت و قابلیت اطمینان Cost, Security & Reliability
-
مشکل هزینه GenAI: متدولوژی FinOps برای LLMها The GenAI Cost Problem: FinOps for LLMs
-
ایمنسازی اپلیکیشنهای LLM: تزریق پرامپت و اسرار Securing LLM Apps: Prompt Injection & Secrets
-
حاکمیت، دادههای حساس (PII) و انطباق Governance, PII & Compliance
-
قابلیت اطمینان: Fallbacks، محدودیت نرخ و Circuit Breakers Reliability: Fallbacks, Rate Limits & Circuit Breakers
پروژه نهایی و مسیر شغلی Capstone & Career
-
جعبه ابزار LLMOps و نقشه گواهینامهها The LLMOps Toolbox & Certification Map
-
پروژه نهایی: عملیاتی کردن یک اپلیکیشن GenAI Capstone: Productionize a GenAI App
-
مسیر شغلی، آمادگی مصاحبه و برنامه ۹۰ روزه Your Career, Interview Prep & 90-Day Plan
https://donyad.com/d/7dc136
Ganesh Ravikumar
مشاور اتوماسیون انبار
نمایش نظرات