ترنسفورمرها و NLP: آموزش Fine-Tuning مدل‌ها با Hugging Face - آخرین آپدیت

معماری ترنسفورمر و مبانی Transformer Architecture and Foundations

• نقش‌های نوظهور در مهندسی NLP و LLM Emerging Roles in NLP and LLM Engineering

• روندهای صنعت NLP NLP Industry Trends

• نقشه مهارت‌ها برای متخصصین ترنسفورمر Skill Map for Transformer Specialists

• انقلاب ترنسفورمرها The Transformer Revolution

• معماری Encoder-Decoder Encoder–Decoder Architecture

• رمزگذار (Encoder) Encoder

• رمزگشا (Decoder) Decoder

• توضیح مکانیسم Self Attention Self-Attention Mechanism Explained

• کدگذاری موقعیتی و جاسازی کلمات (Word Embeddings) Positional Encoding and Word Embeddings

• تجسم نقشه‌های Attention Visualizing Attention Maps

• مدل‌های Encoder (مانند BERT و RoBERTa) Encoder Models (BERT, RoBERTa)

• مدل‌های Decoder (مانند GPT و LLaMA) Decoder Models (GPT, LLaMA)

• مدل‌های Encoder-Decoder (مانند T5 و BART) Encoder–Decoder Models (T5, BART)

بهینه‌سازی (Fine Tuning) مدل‌های پیش‌آموزش‌دیده Fine-Tuning Pre-Trained Models

• توکن‌سازی و پیش‌پردازش با Hugging Face Tokenization & Preprocessing with Hugging Face

• سازماندهی و تقسیم‌بندی مجموعه‌داده‌ها Dataset Organization and Splits

• مدیریت داده‌های نامتوازن Handling Imbalanced Data

• بارگذاری مدل‌های پیش‌آموزش‌دیده (مثال DistilBERT) Loading Pre-Trained Models (DistilBERT Example)

• حلقه‌های آموزش و بهینه‌سازها Training Loops and Optimizers

• استفاده از Trainer API برای افزایش بازدهی Using Trainer API for Efficiency

• محاسبه Accuracy، F1 و Precision Computing Accuracy, F1, Precision

• تجسم ماتریس‌های اغتشاش Visualizing Confusion Matrices

• ذخیره و بارگذاری مدل‌های Fine-tuned Saving and Loading Fine-Tuned Models

ارزیابی، بازتولیدپذیری و کنترل نسخه Evaluation, Reproducibility, and Version Control

• مقدمه‌ای بر مفاهیم DVC Introduction to DVC Concepts

• ایجاد خط لوله‌های DVC برای یادگیری ماشین Creating DVC Pipelines for ML

• کنترل نسخه برای داده‌ها و مدل‌ها Version Control for Data and Models

• ذخیره‌سازی معیارها و مصنوعات (Artifacts) Storing Metrics and Artifacts

• مقایسه نتایج آزمایشات Comparing Experiment Results

• استفاده از Evaluate و معیارهای DVC Using Evaluate and DVC Metrics

• آپلود مدل‌ها در Hugging Face Hub Uploading Models to the Hub

• مدیریت نسخه‌ها و متاداده‌ها Managing Versions and Metadata

• همکاری تیمی و کارت‌های مدل (Model Cards) Collaboration and Model Cards

استقرار و یکپارچه‌سازی مدل‌های ترنسفورمر Deployment and Integration of Transformer Models

• ایجاد Endpointهای FastAPI برای استنتاج Creating FastAPI Endpoints for Inference

• پردازش دسته‌ای و فراخوانی‌های Asynchronous Batch Processing and Asynchronous Calls

• اندازه‌گیری تأخیر (Latency) و نرخ انتقال (Throughput) Measuring Latency & Throughput

• کوانتیزاسیون و تقطیر مدل برای افزایش کارایی Quantization & Distillation for Efficiency

• بهره‌وری از منابع و مقیاس‌پذیری Resource Utilization and Scaling

• تست مداوم و تشخیص Drift Continuous Testing & Drift Detection

• به‌روزرسانی ایمن مدل‌ها Updating Models Safely

• یکپارچه‌سازی CI/CD برای ترنسفورمرها Integrating CICD for Transformers