آموزش بهینه‌سازی و استقرار سیستم‌های مدل‌های زبانی بزرگ (LLM) - آخرین آپدیت

مقیاس‌بندی و بهینه‌سازی خط لوله‌های LLM Scaling and Optimizing LLM Pipelines

• معرفی تخصص Specialization Introduction

• معرفی دوره Course Introduction

• چرا بهینه‌سازی در سیستم‌های LLM اهمیت دارد Why Optimization Matters in LLM Systems

• دمو: تحلیل تأخیر پاسخ و مصرف توکن در اپلیکیشن LangChain Demonstration: Profiling Response Latency and Token Usage in LangChain App

• دمو: پیاده‌سازی دسته‌بندی ناهمگام (Async Batching) و کشینگ Demonstration: Implement Async Batching and Caching

• پرامپت‌های کارآمد برای قابلیت اطمینان و سرعت Efficient Prompts for Reliability and Speed

• دمو: پرامپت‌ها و الگوهای پویا برای کنترل بهتر Demonstration: Dynamic Prompts and Templates for Better Control

• دمو: پیاده‌سازی کشینگ پرامپت و تنظیم خودکار Demonstration: Implement Prompt Caching and Auto-Tuning

• ارزیابی کیفیت خروجی مدل Evaluating Model Output Quality

• دمو: یکپارچه‌سازی LangSmith و Weights and Biases Demonstration: LangSmith + Weights and Biases Integration

• دمو: ردیابی هزینه‌های API و مصرف توکن Demonstration: Tracking API Costs and Token Usage

یکپارچه‌سازی APIها و منابع داده خارجی Integrating APIs and External Data Sources

• قدرت APIها در LLMها Power of APIs in LLMs

• دمو: اتصال به چندین API خارجی Demonstration: Connecting Multiple External APIs

• دمو: خط لوله رویدادمحور با Webhooks و صف‌ها Demonstration: Event-Driven Pipeline with Webhooks and Queues

• ترکیب داده‌های ساختاریافته و بدون ساختار Combining Structured and Unstructured Data

• دمو: تبدیل زبان طبیعی به SQL با LangChain و OpenAI Demonstration:Natural-Language to SQL with LangChain and OpenAI

• دمو: بازیابی ترکیبی با استفاده از LLM و LangChain Demonstration: Hybrid Retrieval Using LLM and LangChain

• نمایه سازی داده‌ها و ارکستراسیون گردش‌کار Data Indexing and Workflow Orchestration

• دمو: خط لوله داده‌های پیچیده با LlamaIndex Demonstration: Complex Data Pipeline with LlamaIndex

• دمو: گردش‌کار ارزیابی خودکار با LangGraph و LLM Demonstration: Automated Evaluation Workflow with LangGraph and LLM

استقرار و مدیریت اپلیکیشن‌های LLM Deploying and Managing LLM Applications

• از توسعه تا تولید — طراحی API From Development to Production — API Design

• دمو: ایجاد نقاط انتهایی REST با FastAPI برای گردش‌کارهای LangChain Demonstration: Creating REST Endpoints with FastAPI for LangChain Workflows

• دمو: افزودن احراز هویت (JWT/OAuth) و محدودیت نرخ درخواست Demonstration: Adding Auth (JWT/OAuth) and Rate Limiting

• اصول کانتینری‌سازی برای اپلیکیشن‌های هوش مصنوعی Containerization Essentials for AI Apps

• دمو: داکرایز کردن اپلیکیشن LangChain و FastAPI Demonstration: Dockerize LangChain + FastAPI App

• دمو: استقرار API روی AWS Demonstration: Deployment of API on AWS

• بررسی پروژه نهایی: ارکستراتور LLM Capstone Overview: LLM Orchestrator

• دمو: بررسی کلی و معماری پروژه نهایی Demonstration: Capstone Project Overview and Architecture

• دمو: ساخت APIهای LLM با FASTAPI Demonstration: Building LLM APIs with FASTAPI

• دمو: یکپارچه‌سازی احراز هویت و تحلیل‌ها Demonstration: Authentication and Analytics Integration

• دمو: خط لوله داده و تنظیمات داکر Demonstration: Data Pipeline and Docker Setup

• دمو: اتوماسیون استقرار با CI/CD Demonstration: Automating Deployment with CI/CD

• دمو: استقرار ابری و راه‌اندازی فرانت‌اند Demonstration: Cloud Deployment and Frontend Setup

جمع‌بندی دوره Course Wrap-Up

• خلاصه دوره Course Summary