لطفا جهت اطلاع از آخرین دوره ها و اخبار سایت در
کانال تلگرام
عضو شوید.
آموزش MLflow، سرویسدهی مدل و حاکمیت داده برای هوش مصنوعی مولد (Generative AI)
- آخرین آپدیت
دانلود MLflow, Model Serving, and Governance for Generative AI
نکته:
ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره:
نمونههای اولیه هوش مصنوعی مولد شما در نوتبوکها عالی عمل میکنند، اما به محض اینکه بخواهید آنها را با تیم خود به اشتراک بگذارید، با مشکل مواجه میشوید: پرامپتها بدون هشدار تغییر میکنند، هزینهها از کنترل خارج میشوند، استقرارها در محیط عملیاتی دچار اختلال شده و سوالاتی در مورد انطباق و استانداردها پیش میآید که پاسخی برای آنها ندارید.
در این دوره جامع با عنوان «MLflow، سرویسدهی مدل و حاکمیت داده برای هوش مصنوعی مولد»، شما یاد میگیرید که اپلیکیشنهای RAG و ایجنتهای هوشمند را بهصورت قابل اطمینان، قابل مشاهده، با هزینه کنترلشده و تحت نظارت کامل در مقیاس سازمانی روی پلتفرم Databricks پیادهسازی کنید.
در ابتدا، گردش کارهای حرفهای MLflow برای مدلهای زبانی بزرگ (LLM) را بررسی میکنید؛ از جمله نسخهبندی پرامپتها، ارزیابی با متد LLM-as-judge و ردیابی لحظهای (Tracing) کوئریهای ناموفق.
سپس، نحوه استقرار هر زنجیره RAG یا ایجنت سفارشی را روی نقاط پایانی (Endpoints) سرویسدهی مدل Mosaic AI که دارای شتابدهنده GPU و قابلیت مقیاسپذیری خودکار هستند، تنها با چند کلیک خواهید آموخت.
در نهایت، یاد میگیرید که چگونه تمام دسترسیهای LLM را از طریق Mosaic AI Gateway با قابلیتهای محدودسازی نرخ (Rate Limiting) و سیستمهای جایگزین (Fallbacks) متمرکز کنید و همه موارد را با lineage سرتاسری، کنترل دسترسی و حسابرسی در Unity Catalog ایمن سازید.
پس از پایان این دوره، شما مهارتها و دانش لازم در زمینه MLflow، Model Serving و حاکمیت Unity Catalog را کسب خواهید کرد تا بتوانید با اطمینان، اپلیکیشنهای هوش مصنوعی مولد را از مرحله پروتوتایپ به محیط عملیاتی مورد اعتماد در هر شرکتی منتقل کنید.
سرفصل ها و درس ها
گردش کارهای حرفهای MLflow برای LLMها، RAG و ایجنتها
Professional MLflow Workflows for LLMs, RAG, and Agents
آشنایی با MLflow برای هوش مصنوعی مولد
MLflow for Generative AI
ثبت لاگ زنجیرههای RAG با MLflow
Logging RAG Chains with MLflow
ارزیابی GenAI با استفاده از متد LLM as judge
Evaluating GenAI with LLM-as-judge
ردیابی در MLflow: یافتن و رفع خطاهای کوئریها
MLflow Tracing: Find and Fix Failing Queries
سرویسدهی مدل بدون توقف (Zero downtime) برای هوش مصنوعی مولد
Zero-downtime Model Serving for Generative AI
معماری سرویسدهی مدل Mosaic AI
Mosaic AI Model Serving Architecture
استقرار و مانیتورینگ یک Endpoint عملیاتی برای RAG
Deploy and Monitor a Production RAG Endpoint
درگاه Mosaic AI: مسیریابی و حاکمیت LLM در سطح سازمانی
Mosaic AI Gateway: Enterprise LLM Routing and Governance
مروری بر AI Gateway و دسترسی یکپارچه
AI Gateway Overview and Unified Access
کنترل هزینه، محدودسازی نرخ و سیستمهای جایگزین
Cost Control, Rate Limiting, and Fallbacks
پیکربندی مسیرها، محدودیتها و Fallbackها
Configuring Routes, Limits, and Fallbacks
حاکمیت داده و ردیابی سرتاسری (Lineage) با Unity Catalog
End-to-end Governance and Lineage with Unity Catalog
ثبت داراییهای GenAI در Unity Catalog
Registering GenAI Assets in Unity Catalog
کنترل دسترسی و مجوزها برای داراییهای هوش مصنوعی
Access Control and Permissions for AI Assets
مشاهده کامل Lineage و مسیر حسابرسی (Audit Trail)
Viewing Full Lineage and Audit Trail
Zach در حال حاضر یک مهندس ارشد نرم افزار در VMware است که در آن از ابزارهایی مانند Python ، Docker ، Node و Angular همراه با تکنیک ها/اصول مختلف یادگیری ماشین و علوم داده استفاده می کند. قبل از نقش فعلی ، زاک روی نرم افزارهای زیردریایی کار می کرد و علاقه زیادی به برنامه نویسی GIS همراه با نرم افزارهای منبع باز دارد. برخی از کارهای او را می توانید در GitHub (https://github.com/zbennett10) و Stack Overflow (https://stackoverflow.com/users/6879849/zachary-bennett) مشاهده کنید.
نمایش نظرات