آموزش Fine-Tune و استقرار مدل‌های LLM با QLoRA در Sagemaker و Streamlit - آخرین آپدیت

سرفصل ها و درس ها

معرفی دوره Course Overview

• چه چیزی می‌سازیم What We Are Building

راه‌اندازی حساب AWS Setting up Our AWS Account

• ورود به AWS Sign in to AWS

• ایجاد کاربر IAM Creating IAM User

• ورود با کاربر جدید AWS Signing in with new AWS User

• اقدامات لازم در صورت هک شدن What to Do In case you Get Hacked

پیکربندی محیط AWS Sagemaker Setting Up AWS Sagemaker Environment

• ایجاد یک Sagemaker Domain Create a Sagemaker Domain

• ورود به محیط Sagemaker Logging into Our Sagemaker Environment

• آشنایی با JupyterLab Introduction to JupyterLab

منابع دوره Course Resources

• دسترسی به تمام منابع دوره در اینجا Access all the Course Resources Here

جمع‌آوری، تکه تکه کردن (Chunking)، توکنایز کردن و آپلود دیتاست Gathering, Chunking, Tokenizing and Uploading our Dataset

• سشن‌های Sagemaker، ریجن‌ها و نقش‌های IAM Sagemaker Sessions, Regions, and IAM Roles

• بررسی دیتاست از HuggingFace Examining Our Dataset from HuggingFace

• توکنایزاسیون و Word Embeddings Tokenization and Word Embeddings

• احراز هویت HuggingFace در Sagemaker HuggingFace Authentication with Sagemaker

• اعمال تابع Templating روی دیتاست Applying the Templating Function to our Dataset

• Attention Masks و Padding Attention Masks and Padding

• استفاده از Star Unpacking در پایتون Star Unpacking with Python

• مثال Chain Iterator، List Constructor و Attention Mask در پایتون Chain Iterator, List Constructor and Attention Mask example with Python

• درک مفهوم Batching Understanding Batching

• Slicing و Chunking دیتاست Slicing and Chunking our Dataset

• ساخت تابع Chunking سفارشی Creating our Custom Chunking Function

• توکنایز کردن دیتاست Tokenizing our Dataset

• اجرای تابع Chunking Running our Chunking Function

• درک کامل فرآیند Chunking Understanding the Entire Chunking Process

• آپلود داده‌های آموزش به AWS S3 Uploading the Training Data to AWS S3

درک LoRA و راه‌اندازی HuggingFace Estimator Understanding LoRA and Setting up HuggingFace Estimator

• تنظیم هایپرپارامترها برای عملیات آموزش Setting Up Hyperparameters for the Training Job

• ایجاد HuggingFace Estimator در Sagemaker Creating our HuggingFace Estimator in Sagemaker

• مقدمه‌ای بر Low rank adaptation (LoRA) Introduction to Low-rank adaptation (LoRA)

• مثال عددی LoRA LoRA Numerical Example

• خلاصه LoRA و محاسبه کاهش هزینه‌ها LoRA Summarization and Cost Saving Calculation

• (اختیاری) مرور ضرب ماتریسی (Optional) Matrix Multiplication Refresher

• درک برنامه‌نویسی LoRA بخش اول Understanding LoRA Programatically Part 1

• درک برنامه‌نویسی LoRA بخش دوم Understanding LoRA Programatically Part 2

بهبود سرعت آموزش با Bfloat 16 Improving Training Speed with Bfloat 16

• مقایسه Bfloat16 در برابر Float32 Bfloat16 vs Float32

• مقایسه برنامه‌نویسی Bfloat16 و Float32 Comparing Bfloat16 Vs Float32 Programatically

تنظیم اسکریپت آموزش QLoRA با Mixed Precision و کوانتایزاسیون دوگانه Setting up the QLoRA Training Script with Mixed Precision & Double Quantization

• تنظیم Importها و کتابخانه‌ها برای اسکریپت آموزش Setting up Imports and Libraries for the Train Script

• تابع Argument Parsing بخش اول Argument Parsing Function Part 1

• تابع Argument Parsing بخش دوم Argument Parsing Function Part 2

• درک نکات مربوط به پارامترهای قابل آموزش Understanding Trainable Parameters Caveats

• مقدمه‌ای بر کوانتایزاسیون Introduction to Quantization

• شناسایی لایه‌های قابل آموزش برای LoRA Identifying Trainable Layers for LoRA

• تنظیم Parameter Efficient Fine Tuning Setting up Parameter Efficient Fine Tuning

• پیاده‌سازی پیکربندی LoRA و آموزش Mixed Precision Implement LoRA Configuration and Mixed Precision Training

• درک کوانتایزاسیون دوگانه (Double Quantization) Understanding Double Quantization

• ساخت تابع آموزش بخش اول Creating the Training Function Part 1

• ساخت تابع آموزش بخش دوم Creating the Training Function Part 2

• تکمیل اسکریپت Sagemaker Finishing our Sagemaker Script

• دسترسی به GPUهای قدرتمند با AWS Quotas Gaining Access to Powerful GPUs with AWS Quotas

• اصلاحات نهایی قبل از آموزش Final Fixes Before Training

اجرای اسکریپت Fine-Tuning برای مدل LLM Running our Fine Tuning Script for our LLM

• شروع عملیات آموزش Starting our Training Job

• بررسی نتایج آموزش و مانیتورینگ با Cloudwatch Inspecting the Results of our Training Job and Monitoring with Cloudwatch

استقرار مدل LLM بهینه شده Deploying our Fine Tuned LLM

• استقرار LLM در Sagemaker Endpoint Deploying our LLM to a Sagemaker Endpoint

• تست محلی LLM در Sagemaker Testing our LLM in Sagemaker Locally

• ساخت تابع Lambda برای فراخوانی Endpoint Creating the Lambda Function to Invoke our Endpoint

• ساخت API Gateway برای استقرار مدل در اینترنت Creating API Gateway to Deploy the Model Through the Internet

• پیاده‌سازی اپلیکیشن Streamlit Implementing our Streamlit App

• اصلاحات اپلیکیشن Streamlit Streamlit App Correction

پاکسازی منابع Cleaning up Resources

• تبریک و پاکسازی منابع AWS Congratulations and Cleaning up AWS Resources