آموزش مانیتورینگ مدل‌های زبانی بزرگ (LLM) در محیط عملیاتی: مشاهده‌پذیری، ردیابی و بهینه‌سازی هزینه‌ها [ویدیو] - آخرین آپدیت

سرفصل ها و درس ها

مقدمه Introduction

• مقدمه Introduction

توجیه تجاری: چرا مشاهده‌پذیری برابر است با سود مالی The Business Case Why Observability = Money

• مدیریت هزینه و مشاهده‌پذیری – بررسی کلی Observability and Cost Management – Overview

• هزینه‌های پنهان اپلیکیشن‌های LLM The Hidden Costs of LLM Applications

• مشاهده‌پذیری سنتی در مقابل مشاهده‌پذیری LLM Traditional vs LLM Observability

• سه ستون اصلی برای LLMها The Three Pillars for LLMs

• ماشین حساب ROI – ایجاد توجیه تجاری ROI Calculator – Making the Business Case

درک هزینه‌های LLM – بودجه شما کجا هزینه می‌شود Understanding LLM Costs – Where Your Money Goes

• درک هزینه‌های LLM Understanding LLM Costs

• کجا هزینه‌ها پنهان می‌شوند – خط لوله RAG و Agent Where Costs Hide – RAG and Agent Pipeline

• ضریب هزینه‌های پنهان The Hidden Cost Multiplier

انتخاب پلتفرم مشاهده‌پذیری – Langfuse و آموزش عملی Observability Platform Selection – Langfuse and Hands-on

• انتخاب پلتفرم مشاهده‌پذیری Observability Platform Selection

• راه‌اندازی Langfuse Setting Up Langfuse

• راه‌اندازی Langfuse و ایجاد اولین Trace Setting up Langfuse and Creating First Trace

• مدل داده‌ای Langfuse Langfuse Data Model

• تمرین عملی: بررسی عمیق اولین Trace در LLM Hands-on: First LLM Trace – Deep Dive

• سطوح API در Langfuse – نمایش کدها Langfuse API Levels – Code Demonstrations

ابزارگذاری اپلیکیشن LLM شما Instrumenting Your LLM Application

• مورد کاربردی ابزارگذاری LLM در محیط عملیاتی – تمرین عملی Production Instrumented LLM Use Case – Hands-on

• ابزارگذاری خط لوله RAG چندمرحله‌ای – مشاهده‌پذیری با Langfuse – تمرین کامل Instrumenting a Multi-Step RAG Pipeline – Langfuse Observability – Full Handson

• ادغام با فریم‌ورک‌ها (LangChain) Framework Integration (LangChain)

استراتژی‌های کاربردی بهینه‌سازی هزینه Cost Optimization Strategies That Work

• استراتژی‌های بهینه‌سازی هزینه – بررسی کلی Cost Optimization Strategies – Overview

• بهینه‌سازی پرامپت – تمرین عملی Prompt Optimization – Handson

• کشینگ معنایی (Semantic Caching) Semantic Caching

• مسیریابی هوشمند مدل (Smart Model Routing) Smart Model Routing

• خلاصه بهینه‌سازی هزینه‌ها Cost Optimization Summary

مانیتورینگ، هشداردهی و دیباگینگ Monitoring, Alerting & Debugging

• راه‌اندازی هشدارهای حیاتی Setting up Alerts that Matter

الگوهای عملیاتی و امنیت Production Patterns & Security

• الگوهای امنیت و انطباق (Compliance) Security and Compliance Patterns

• پیاده‌سازی الگوهای عملیاتی در دنیای واقعی Production Patterns Implementations – Real-world

جمع‌بندی و گام‌های بعدی Wrap up and Next Steps

• مرور دوره و گام‌های بعدی Course Recap and Next Steps