لطفا جهت اطلاع از آخرین دوره ها و اخبار سایت در
کانال تلگرام
عضو شوید.
آموزش مدیریت مدل، سرویسدهی و حاکمیت مدل با MLflow برای هوش مصنوعی مولد
- آخرین آپدیت
دانلود MLflow, Model Serving, and Governance for Generative AI
نکته:
ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره:
نمونههای اولیه هوش مصنوعی مولد شما در نوتبوکها عالی عمل میکنند، اما به محض اینکه بخواهید آنها را با تیم خود به اشتراک بگذارید، با مشکل مواجه میشوید: پرامپتها بدون هشدار تغییر میکنند، هزینهها از کنترل خارج میشوند، استقرارها در محیط عملیاتی دچار اختلال شده و سوالات مربوط به انطباق و استانداردها بیپاسخ میمانند.
در این دوره آموزشی با عنوان «MLflow، سرویسدهی مدل و حاکمیت برای هوش مصنوعی مولد»، شما یاد میگیرید که اپلیکیشنهای RAG و Agentهای قابل اعتماد، قابل مشاهده، با هزینه کنترلشده و کاملاً تحت نظارت را در مقیاس سازمانی روی پلتفرم Databricks پیادهسازی کنید.
در ابتدا، جریانهای کاری حرفهای MLflow برای مدلهای زبانی بزرگ (LLMs) را بررسی خواهید کرد؛ از جمله نسخهبندی پرامپتها، ارزیابی با متد LLM-as-judge و ردیابی بلادرنگ کوئریهای خطا دار.
سپس، نحوه استقرار هر زنجیره RAG یا ایجنت سفارشی را روی نقاط انتهایی (Endpoints) سرویسدهی مدل Mosaic AI که دارای شتابدهنده GPU و قابلیت مقیاسپذیری خودکار هستند، تنها با چند کلیک خواهید آموخت.
در نهایت، یاد میگیرید که چگونه تمام دسترسیهای LLM را از طریق Mosaic AI Gateway با قابلیتهای محدودسازی نرخ (Rate Limiting) و سیستمهای جایگزین (Fallbacks) متمرکز کنید و همه موارد را با ردیابی کامل (Lineage)، کنترل دسترسی و حسابرسی در Unity Catalog ایمن سازید.
پس از اتمام این دوره، شما مهارتها و دانش لازم در زمینه MLflow، سرویسدهی مدل و حاکمیت Unity Catalog را کسب خواهید کرد تا بتوانید با اطمینان، اپلیکیشنهای هوش مصنوعی مولد را از مرحله نمونه اولیه به مرحله تولید صنعتی و قابل اعتماد در هر شرکتی منتقل کنید.
سرفصل ها و درس ها
جریانهای کاری حرفهای MLflow برای LLMها، RAG و ایجنتها
Professional MLflow Workflows for LLMs, RAG, and Agents
معرفی MLflow برای هوش مصنوعی مولد
MLflow for Generative AI
ثبت لاگهای زنجیره RAG با MLflow
Logging RAG Chains with MLflow
ارزیابی GenAI با متد LLM به عنوان داور
Evaluating GenAI with LLM-as-judge
ردیابی در MLflow: یافتن و رفع خطای کوئریها
MLflow Tracing: Find and Fix Failing Queries
سرویسدهی مدل بدون توقف برای هوش مصنوعی مولد
Zero-downtime Model Serving for Generative AI
معماری سرویسدهی مدل Mosaic AI
Mosaic AI Model Serving Architecture
استقرار و نظارت بر یک Endpoint عملیاتی RAG
Deploy and Monitor a Production RAG Endpoint
درگاه Mosaic AI: مسیریابی و حاکمیت LLM در سطح سازمانی
Mosaic AI Gateway: Enterprise LLM Routing and Governance
بررسی کلی AI Gateway و دسترسی یکپارچه
AI Gateway Overview and Unified Access
کنترل هزینه، محدودسازی نرخ و سیستمهای جایگزین
Cost Control, Rate Limiting, and Fallbacks
پیکربندی مسیرها، محدودیتها و جایگزینها
Configuring Routes, Limits, and Fallbacks
حاکمیت و ردیابی جامع (End-to-End) با Unity Catalog
End-to-end Governance and Lineage with Unity Catalog
ثبت داراییهای GenAI در Unity Catalog
Registering GenAI Assets in Unity Catalog
کنترل دسترسی و مجوزها برای داراییهای هوش مصنوعی
Access Control and Permissions for AI Assets
مشاهده ردیابی کامل و تاریخچه حسابرسی
Viewing Full Lineage and Audit Trail
Zach در حال حاضر یک مهندس ارشد نرم افزار در VMware است که در آن از ابزارهایی مانند Python ، Docker ، Node و Angular همراه با تکنیک ها/اصول مختلف یادگیری ماشین و علوم داده استفاده می کند. قبل از نقش فعلی ، زاک روی نرم افزارهای زیردریایی کار می کرد و علاقه زیادی به برنامه نویسی GIS همراه با نرم افزارهای منبع باز دارد. برخی از کارهای او را می توانید در GitHub (https://github.com/zbennett10) و Stack Overflow (https://stackoverflow.com/users/6879849/zachary-bennett) مشاهده کنید.
نمایش نظرات