آموزش فین‌تیونینگ (Fine-Tuning) و بهینه‌سازی مدل‌های زبانی بزرگ (LLM) - آخرین آپدیت

درک انطباق مدل و یادگیری انتقالی Understanding Model Adaptation and Transfer Learning

• معرفی تخصص Specialization Introduction

• معرفی دوره Course Introduction

• مقدمه‌ای بر یادگیری انتقالی Introduction to Transfer Learning

• دمو: بررسی مدل‌های پیش‌آموزش‌دیده در Hugging Face Hub Demonstration: Exploring Pretrained Models on Hugging Face Hub

• دمو: بصری‌سازی لایه‌ها و پارامترهای مدل Demonstration: Visualizing Model Layers and Parameters

• مقدمه‌ای بر PEFT، LoRA و Adapters Introduction to PEFT, LoRA, and Adapters

• دمو: فین‌تیونینگ با LoRA روی یک دیتاست سفارشی Demonstration: Fine-Tuning with LoRA on a Custom Dataset

• دمو: افزودن Adapters LoRa برای آموزش سبک Demonstration: Adding Adapters LoRa for Lightweight Training

• دمو: فین‌تیونینگ مبتنی بر دستورالعمل (Instruction Based) روی دیتاست سفارشی Demonstration: Instruction-Based Fine-Tuning on a Custom Dataset

• فین‌تیونینگ برای دامنه‌های سفارشی Fine-Tuning for Custom Domains

• دمو: فین‌تیونینگ طبقه‌بندی مختص دامنه Demonstration: Domain-Specific Classification Fine-Tuning

• دمو: فین‌تیونینگ طبقه‌بندی مختص دامنه: بصری‌سازی Demonstration: Domain-Specific Classification Fine-Tuning : Visualization

• دمو: ارزیابی دقت مدل فین‌تیون شده Demonstration: Evaluating Fine-Tuned Model Accuracy

جریان‌های کاری فین‌تیونینگ و بهینه‌سازی هایپرپارامترها Fine-Tuning Workflows and Hyperparameter Optimization

• پیش‌پردازش و پاک‌سازی متن برای فین‌تیونینگ Preprocessing and Cleaning Text for Fine-Tuning

• دمو: توکنایز کردن و دسته‌بندی (Batching) دیتاست‌ها Demonstration: Tokenizing and Batching Datasets

• دمو: تقسیم‌بندی دیتاست برای اعتبارسنجی و تست Demonstration: Dataset Splitting for Validation and Testing

• راه‌اندازی محیط‌های فین‌تیونینگ Setting Up Fine-Tuning Environments

• دمو: پیکربندی Trainer API برای مدل‌های BERT Demonstration: Configuring Trainer API for BERT Models

• دمو: مانیتورینگ Loss آموزش و دقت Demonstration: Monitoring Training Loss and Accuracy

• معیارهای ارزیابی مدل: F1, BLEU, ROUGE Model Evaluation Metrics: F1, BLEU, ROUGE

• دمو: بصری‌سازی ماتریس اغتشاش (Confusion Matrix) برای بررسی عملکرد Demonstration: Visualizing Confusion Matrix for Performance

• دمو: خروجی گرفتن و آپلود در Hugging Face Hub Demonstration: Exporting and Uploading to Hugging Face Hub

• دمو: ارزیابی مدل‌ها با استفاده از DeepEval و رتبه‌بندی ELO Demonstration: Evaluating models using DeepEval + ELO ranking

مهندسی کانتکست برای مدل‌های زبانی بزرگ Context Engineering for LLMs

• مقدمه‌ای بر مهندسی کانتکست Introduction to Context Engineering

• مبانی مهندسی کانتکست در LLM LLM Context Engineering Basics

• مقایسه طراحی پرامپت و طراحی کانتکست Comparing Prompt and Context Design

• نوشتن مؤثر کانتکست Effective Context Writing

• دمو: بصری‌سازی جریان کانتکست Demonstration: Context Flow Visualization

• دمو: مقایسه مهندسی پرامپت و مهندسی کانتکست برای LLMها Demonstration: Comparing Prompt and Context Engineering for LLMs

• محدودیت‌های توکن در LLMها Token Limits in LLMs

• انتخاب کانتکست مرتبط Context Relevance Selection

• تکنیک‌های فشرده‌سازی کانتکست Context Compression Techniques

• دمو: فشرده‌سازی کانتکست در سیستم LLM Demonstration: Context Compression in LLM System

• استراتژی‌های جداسازی تسک (Task Isolation) Task Isolation Strategies

• خطاهای رایج در کانتکست Common Context Errors

• مهندسی کانتکست مقیاس‌پذیر Scalable Context Engineering

• دمو: الگوهای جداسازی کانتکست برای LLMها Demonstration: Context Isolation Patterns for LLMs

• دمو: مقیاس‌بندی LLM در محیط تولید با مهندسی کانتکست Demonstration: Scaling LLM with Production using Context Engineering

بهینه‌سازی، فشرده‌سازی و استقرار Optimization, Compression, and Deployment

• تکنیک‌های فشرده‌سازی مدل Model Compression Techniques

• دمو: کوانتیزه کردن مدل برای سرعت استنتاج - بخش اول Demonstration: Quantizing Model for Inference Speed - I

• دمو: کوانتیزه کردن مدل برای سرعت استنتاج - بخش دوم Demonstration: Quantizing Model for inference Speed - II

• دمو: تقطیر دانش (Knowledge Distillation) برای فشرده‌سازی مدل Demonstration: Knowledge Distillation for Model Compression

• مقیاس‌بندی و مدیریت هزینه در محیط‌های ابری Scaling and Cost Management in Cloud Environments

• دمو: استقرار روی Hugging Face Inference API Demonstration: Deploying on Hugging Face Inference API

• دمو: مانیتورینگ تأخیر (Latency) و هزینه‌ها Demonstration: Monitoring Latency and Costs

• ارزیابی مستمر و نسخه‌بندی مدل Continuous Evaluation and Model Versioning

• دمو: ردیابی معیارها با MLflow - بخش اول Demonstration: Tracking Metrics with MLflow - I

• دمو: ردیابی معیارها با MLflow - بخش دوم Demonstration: Tracking Metrics with MLflow - II

• دمو: ردیابی معیارها با MLflow - بخش سوم Demonstration: Tracking Metrics with MLflow - III

• دمو: به‌روزرسانی مدل‌ها با استفاده از بازآموزی افزایشی - بخش اول Demonstration: Updating Models Using Incremental Retraining - I

• دمو: به‌روزرسانی مدل‌ها با استفاده از بازآموزی افزایشی - بخش دوم Demonstration: Updating Models Using Incremental Retraining - II

جمع‌بندی دوره Course Wrap-Up

• جمع‌بندی دوره: فین‌تیونینگ و بهینه‌سازی مدل‌های زبانی بزرگ Course Summary: Fine-Tuning & Optimizing Large Language Models