آموزش مانیتورینگ و بهینه‌سازی مدل‌های زبانی بزرگ (LLM) در محیط عملیاتی - آخرین آپدیت

دانلود Production LLM Monitoring & Optimization

نکته: ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره: استفاده کنترل‌نشده از LLMها می‌تواند به طور نامحسوس بودجه‌ها را تخلیه کرده و سیستم‌های عملیاتی را کند کند. این دوره شما را با تکنیک‌های عملی Tracing، ابزارگذاری (Instrumentation) و تحلیل هزینه تجهیز می‌کند تا دید کاملی نسبت به استک هوش مصنوعی خود داشته باشید. بیاموزید که چگونه گلوگاه‌ها را شناسایی کنید، هزینه توکن‌ها را کنترل نمایید و اپلیکیشن‌های LLM قابل اعتماد و مقرون‌به‌صرفه را در مقیاس بزرگ مدیریت کنید. سیستم‌های LLM در محیط عملیاتی، مصرف توکن‌های غیرقابل پیش‌بینی، ضریب‌های پنهان RAG و نقاط کور دیباگینگ ایجاد می‌کنند که مانیتورینگ‌های سنتی قادر به حل آن‌ها نیستند. این دوره با ایجاد یک توجیه تجاری برای مشاهده‌پذیری (Observability) آغاز می‌شود و نشان می‌دهد که چگونه Tracing و شفافیت هزینه‌ها مستقیماً بر بازگشت سرمایه (ROI) تأثیر می‌گذارد. شما بررسی خواهید کرد که هزینه‌های LLM چگونه انباشته می‌شوند، نشت‌های مالی در خط لوله‌ها (Pipelines) کجا رخ می‌دهد و چرا مدل‌های مشاهده‌پذیری سنتی برای بارهای کاری هوش مصنوعی مولد ناکارآمد هستند. سپس مسیر به سمت ارزیابی پلتفرم و پیاده‌سازی عملی پیش می‌رود. شما Langfuse را راه‌اندازی می‌کنید، مدل داده‌ای آن را می‌شناسید، Traceها را ایجاد کرده و جریان‌های کاری RAG چندمرحله‌ای را ابزارگذاری می‌کنید. ادغام با فریم‌ورک‌هایی مانند LangChain پوشش داده شده است تا نشان دهد سیستم‌های عملیاتی واقعی چگونه Spanها، متاداده‌ها و مصرف توکن‌ها را ثبت می‌کنند. هر مرحله، تئوری‌های انتزاعی مانیتورینگ را به الگوهای کد قابل اجرا و استقرار تبدیل می‌کند. در بخش‌های نهایی، تمرکز بر بهینه‌سازی و تعالی عملیاتی است. شما تنظیمات Prompt، کشینگ معنایی (Semantic Caching)، مسیریابی هوشمند مدل‌ها، هشدارهای هزینه و داشبوردهای مانیتورینگ را پیاده‌سازی خواهید کرد. دوره با الگوهای امنیتی، استراتژی‌های حذف اطلاعات حساس (PII) و متدهای تولیدی آماده برای سازمان‌های بزرگ به پایان می‌رسد و تضمین می‌کند که شما با یک چارچوب کامل مشاهده‌پذیری و حاکمیت هزینه فارغ از دوره شوید. این دوره برای مهندسان ML، مهندسان AI، توسعه‌دهندگان بک‌اند و لیدهای فنی که مسئول استقرار و نگهداری سیستم‌های مبتنی بر LLM در محیط عملیاتی هستند، طراحی شده است. این آموزش به‌ویژه برای متخصصانی که بودجه‌های API، خط لوله‌های RAG یا جریان‌های کاری Agentهای چندمرحله‌ای را مدیریت می‌کنند، ارزشمند است. توسعه‌دهندگان پایتون آشنا با OpenAI، Anthropic یا APIهای مشابه، از یادگیری نحوه معرفی Tracing ساختاریافته، کنترل هزینه‌ها و الگوهای امنیتی در اپلیکیشن‌های فعلی خود بهره‌مند خواهند شد. این دوره یک مسیر ساختاریافته از مبانی تجاری تا پیاده‌سازی عمیق فنی را دنبال می‌کند. شروع با مفاهیم دید به هزینه‌ها، پیشروی در راه‌اندازی پلتفرم و ابزارگذاری Tracing، و در نهایت رسیدن به بهینه‌سازی، هشداردهی و الگوهای امنیتی. هر ماژول، استقرار عملی را با سناریوهای واقعی تولید و مثال‌های قابل اجرای پایتون تقویت می‌کند. این دوره بر اساس کتاب «Production LLM Monitoring: Observability, Tracing & Cost Optimization» نوشته Paulo Dichone تهیه شده است. این دوره توسط Packt لایسنس و توزیع شده است. تمامی حقوق محفوظ است.

سرفصل ها و درس ها

مقدمه Introduction

  • مقدمه Introduction

توجیه تجاری: چرا مشاهده‌پذیری برابر است با پول The Business Case Why Observability = Money

  • مشاهده‌پذیری و مدیریت هزینه – بررسی کلی Observability and Cost Management – Overview

  • هزینه‌های پنهان اپلیکیشن‌های LLM The Hidden Costs of LLM Applications

  • مشاهده‌پذیری سنتی در مقابل مشاهده‌پذیری LLM Traditional vs LLM Observability

  • سه رکن اصلی برای LLMها The Three Pillars for LLMs

  • ماشین حساب ROI – ایجاد توجیه تجاری ROI Calculator – Making the Business Case

درک هزینه‌های LLM – پول شما کجا می‌رود Understanding LLM Costs – Where Your Money Goes

  • درک هزینه‌های LLM Understanding LLM Costs

  • هزینه‌ها کجا پنهان می‌شوند – خط لوله RAG و ایجنت Where Costs Hide – RAG and Agent Pipeline

  • ضریب هزینه پنهان The Hidden Cost Multiplier

انتخاب پلتفرم مشاهده‌پذیری – Langfuse و آموزش عملی Observability Platform Selection – Langfuse and Hands-on

  • انتخاب پلتفرم مشاهده‌پذیری Observability Platform Selection

  • راه‌اندازی Langfuse Setting Up Langfuse

  • راه‌اندازی Langfuse و ایجاد اولین Trace Setting up Langfuse and Creating First Trace

  • مدل داده‌ای Langfuse Langfuse Data Model

  • تمرین عملی: بررسی عمیق اولین Trace مدل زبانی Hands-on: First LLM Trace – Deep Dive

  • سطوح API در Langfuse – نمایش کدها Langfuse API Levels – Code Demonstrations

ابزارگذاری اپلیکیشن LLM شما Instrumenting Your LLM Application

  • مورد کاربردی ابزارگذاری LLM در محیط عملیاتی – تمرین عملی Production Instrumented LLM Use Case – Hands-on

  • ابزارگذاری خط لوله RAG چندمرحله‌ای – مشاهده‌پذیری با Langfuse Instrumenting a Multi-Step RAG Pipeline – Langfuse Observability – Full Handson

  • ادغام با فریم‌ورک‌ها (LangChain) Framework Integration (LangChain)

استراتژی‌های بهینه‌سازی هزینه که واقعاً اثر دارند Cost Optimization Strategies That Work

  • استراتژی‌های بهینه‌سازی هزینه – بررسی کلی Cost Optimization Strategies – Overview

  • بهینه‌سازی پرامپت – تمرین عملی Prompt Optimization – Handson

  • کشینگ معنایی (Semantic Caching) Semantic Caching

  • مسیریابی هوشمند مدل Smart Model Routing

  • خلاصه بهینه‌سازی هزینه‌ها Cost Optimization Summary

مانیتورینگ، هشداردهی و دیباگینگ Monitoring, Alerting & Debugging

  • تنظیم هشدارهای حیاتی و مؤثر Setting up Alerts that Matter

الگوهای عملیاتی و امنیت Production Patterns & Security

  • الگوهای امنیت و انطباق (Compliance) Security and Compliance Patterns

  • پیاده‌سازی الگوهای عملیاتی در دنیای واقعی Production Patterns Implementations – Real-world

جمع‌بندی و گام‌های بعدی Wrap up and Next Steps

  • مرور دوره و گام‌های بعدی Course Recap and Next Steps

نمایش نظرات

آموزش مانیتورینگ و بهینه‌سازی مدل‌های زبانی بزرگ (LLM) در محیط عملیاتی
جزییات دوره
4h 55m
27
(آخرین آپدیت)
32
- از 5
دارد
دارد
دارد
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar