مشکل زیرساخت شبکه و افت سرعت کاملاً برطرف شده است. در حال حاضر فعالسازی و آمادهسازی دورهها در حال انجام است. از صبر و شکیبایی شما سپاسگزاریم.
لطفا جهت اطلاع از آخرین دوره ها و اخبار سایت در
کانال تلگرام
عضو شوید.
آموزش مانیتورینگ و بهینهسازی مدلهای زبانی بزرگ (LLM) در محیط عملیاتی
- آخرین آپدیت
دانلود Production LLM Monitoring & Optimization
نکته:
ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره:
استفاده کنترلنشده از LLMها میتواند به طور نامحسوس بودجهها را تخلیه کرده و سیستمهای عملیاتی را کند کند. این دوره شما را با تکنیکهای عملی Tracing، ابزارگذاری (Instrumentation) و تحلیل هزینه تجهیز میکند تا دید کاملی نسبت به استک هوش مصنوعی خود داشته باشید. بیاموزید که چگونه گلوگاهها را شناسایی کنید، هزینه توکنها را کنترل نمایید و اپلیکیشنهای LLM قابل اعتماد و مقرونبهصرفه را در مقیاس بزرگ مدیریت کنید.
سیستمهای LLM در محیط عملیاتی، مصرف توکنهای غیرقابل پیشبینی، ضریبهای پنهان RAG و نقاط کور دیباگینگ ایجاد میکنند که مانیتورینگهای سنتی قادر به حل آنها نیستند. این دوره با ایجاد یک توجیه تجاری برای مشاهدهپذیری (Observability) آغاز میشود و نشان میدهد که چگونه Tracing و شفافیت هزینهها مستقیماً بر بازگشت سرمایه (ROI) تأثیر میگذارد. شما بررسی خواهید کرد که هزینههای LLM چگونه انباشته میشوند، نشتهای مالی در خط لولهها (Pipelines) کجا رخ میدهد و چرا مدلهای مشاهدهپذیری سنتی برای بارهای کاری هوش مصنوعی مولد ناکارآمد هستند.
سپس مسیر به سمت ارزیابی پلتفرم و پیادهسازی عملی پیش میرود. شما Langfuse را راهاندازی میکنید، مدل دادهای آن را میشناسید، Traceها را ایجاد کرده و جریانهای کاری RAG چندمرحلهای را ابزارگذاری میکنید. ادغام با فریمورکهایی مانند LangChain پوشش داده شده است تا نشان دهد سیستمهای عملیاتی واقعی چگونه Spanها، متادادهها و مصرف توکنها را ثبت میکنند. هر مرحله، تئوریهای انتزاعی مانیتورینگ را به الگوهای کد قابل اجرا و استقرار تبدیل میکند.
در بخشهای نهایی، تمرکز بر بهینهسازی و تعالی عملیاتی است. شما تنظیمات Prompt، کشینگ معنایی (Semantic Caching)، مسیریابی هوشمند مدلها، هشدارهای هزینه و داشبوردهای مانیتورینگ را پیادهسازی خواهید کرد. دوره با الگوهای امنیتی، استراتژیهای حذف اطلاعات حساس (PII) و متدهای تولیدی آماده برای سازمانهای بزرگ به پایان میرسد و تضمین میکند که شما با یک چارچوب کامل مشاهدهپذیری و حاکمیت هزینه فارغ از دوره شوید.
این دوره برای مهندسان ML، مهندسان AI، توسعهدهندگان بکاند و لیدهای فنی که مسئول استقرار و نگهداری سیستمهای مبتنی بر LLM در محیط عملیاتی هستند، طراحی شده است. این آموزش بهویژه برای متخصصانی که بودجههای API، خط لولههای RAG یا جریانهای کاری Agentهای چندمرحلهای را مدیریت میکنند، ارزشمند است. توسعهدهندگان پایتون آشنا با OpenAI، Anthropic یا APIهای مشابه، از یادگیری نحوه معرفی Tracing ساختاریافته، کنترل هزینهها و الگوهای امنیتی در اپلیکیشنهای فعلی خود بهرهمند خواهند شد.
این دوره یک مسیر ساختاریافته از مبانی تجاری تا پیادهسازی عمیق فنی را دنبال میکند. شروع با مفاهیم دید به هزینهها، پیشروی در راهاندازی پلتفرم و ابزارگذاری Tracing، و در نهایت رسیدن به بهینهسازی، هشداردهی و الگوهای امنیتی. هر ماژول، استقرار عملی را با سناریوهای واقعی تولید و مثالهای قابل اجرای پایتون تقویت میکند.
این دوره بر اساس کتاب «Production LLM Monitoring: Observability, Tracing & Cost Optimization» نوشته Paulo Dichone تهیه شده است.
این دوره توسط Packt لایسنس و توزیع شده است. تمامی حقوق محفوظ است.
سرفصل ها و درس ها
مقدمه
Introduction
مقدمه
Introduction
توجیه تجاری: چرا مشاهدهپذیری برابر است با پول
The Business Case Why Observability = Money
مشاهدهپذیری و مدیریت هزینه – بررسی کلی
Observability and Cost Management – Overview
هزینههای پنهان اپلیکیشنهای LLM
The Hidden Costs of LLM Applications
مشاهدهپذیری سنتی در مقابل مشاهدهپذیری LLM
Traditional vs LLM Observability
سه رکن اصلی برای LLMها
The Three Pillars for LLMs
ماشین حساب ROI – ایجاد توجیه تجاری
ROI Calculator – Making the Business Case
درک هزینههای LLM – پول شما کجا میرود
Understanding LLM Costs – Where Your Money Goes
درک هزینههای LLM
Understanding LLM Costs
هزینهها کجا پنهان میشوند – خط لوله RAG و ایجنت
Where Costs Hide – RAG and Agent Pipeline
ضریب هزینه پنهان
The Hidden Cost Multiplier
انتخاب پلتفرم مشاهدهپذیری – Langfuse و آموزش عملی
Observability Platform Selection – Langfuse and Hands-on
انتخاب پلتفرم مشاهدهپذیری
Observability Platform Selection
راهاندازی Langfuse
Setting Up Langfuse
راهاندازی Langfuse و ایجاد اولین Trace
Setting up Langfuse and Creating First Trace
مدل دادهای Langfuse
Langfuse Data Model
تمرین عملی: بررسی عمیق اولین Trace مدل زبانی
Hands-on: First LLM Trace – Deep Dive
سطوح API در Langfuse – نمایش کدها
Langfuse API Levels – Code Demonstrations
ابزارگذاری اپلیکیشن LLM شما
Instrumenting Your LLM Application
مورد کاربردی ابزارگذاری LLM در محیط عملیاتی – تمرین عملی
Production Instrumented LLM Use Case – Hands-on
ابزارگذاری خط لوله RAG چندمرحلهای – مشاهدهپذیری با Langfuse
Instrumenting a Multi-Step RAG Pipeline – Langfuse Observability – Full Handson
ادغام با فریمورکها (LangChain)
Framework Integration (LangChain)
استراتژیهای بهینهسازی هزینه که واقعاً اثر دارند
Cost Optimization Strategies That Work
نمایش نظرات