Fine Tuning LLM 2024 with Hugging Face Transformers برای NLP

اگر مبتدی ML هستید این دوره را نگذرانید. این دوره برای کسانی طراحی شده است که به کدنویسی خالص علاقه مند هستند و می خواهند به جای تمرکز بر مهندسی سریع، LLM ها را تنظیم کنند. در غیر این صورت، ممکن است درک آن برای شما دشوار باشد.

به «تسلط بر مدل‌های ترانسفورماتور و تنظیم دقیق LLM» خوش آمدید، یک دوره جامع و کاربردی که برای همه سطوح، از مبتدی تا حرفه‌ای در پردازش زبان طبیعی (NLP) طراحی شده است. این دوره با تمرکز ویژه بر انواع محبوب BERT مانند Phi2، LLAMA، T5، BERT، DistilBERT، MobileBERT، و TinyBERT عمیقاً به دنیای مدل‌های ترانسفورماتور، تکنیک‌های تنظیم دقیق و تقطیر دانش می‌پردازد.

نمای کلی دوره:

بخش 1: مقدمه

• یک نمای کلی از دوره دریافت کنید و نتایج یادگیری را درک کنید.

• معرفی منابع و فایل های کدی که در طول دوره به آنها نیاز خواهید داشت.

بخش 2: درک ترانسفورماتورها با صورت در آغوش گرفته

• اصول ترانسفورماتورهای صورت در آغوش گرفتن را بیاموزید.

• خطوط، نقاط بازرسی، مدل‌ها و مجموعه‌های داده Hugging Face را کاوش کنید.

• درباره فضاهای صورت در آغوش گرفتن و کلاس‌های خودکار برای مدیریت یکپارچه مدل اطلاعاتی به دست آورید.

بخش 3: مفاهیم اصلی ترانسفورماتورها و LLM ها

• معماری ها و مفاهیم کلیدی پشت Transformers را بررسی کنید.

• کاربردهای ترانسفورماتورها را در کارهای مختلف NLP درک کنید.

• مقدمه ای برای انتقال یادگیری با Transformers.

بخش 4: شیرجه عمیق معماری BERT

• کاوش دقیق معماری BERT و اهمیت آن در درک زمینه.

• درباره مدل‌سازی زبان ماسک‌شده (MLM) و پیش‌بینی جمله بعدی (NSP) در BERT بیاموزید.

• تکنیک های تنظیم دقیق و ارزیابی BERT را درک کنید.

بخش 5: تنظیم دقیق عملی با BERT

• جلسات عملی برای تنظیم دقیق BERT برای طبقه‌بندی احساسات در داده‌های Twitter.

• راهنمای گام به گام در مورد بارگیری داده، توکن سازی و آموزش مدل.

• کاربرد عملی تکنیک های تنظیم دقیق برای ساخت طبقه بندی کننده BERT.

بخش 6: تکنیک های تقطیر دانش برای BERT

• مقدمه ای بر تقطیر دانش و اهمیت آن در بهینه سازی مدل.

• مطالعه دقیق DistilBERT، از جمله توابع از دست دادن و بررسی های کاغذی.

• MobileBERT و TinyBERT را با تمرکز بر تکنیک‌های تقطیر منحصر به فرد و اجرای عملی آن‌ها کاوش کنید.

بخش 7: استفاده از مدل‌های BERT تقطیر شده برای کارهای دنیای واقعی مانند تشخیص اخبار جعلی

• از DistilBERT، MobileBERT، و TinyBERT برای تشخیص اخبار جعلی استفاده کنید.

• مثال‌های عملی و تمرین‌های عملی برای ساخت و ارزیابی مدل‌ها.

• محک زدن عملکرد مدل‌های مقطر در برابر BERT-Base.

بخش 8: شناسایی نهاد نامگذاری شده (NER) با DistilBERT

• تکنیک‌هایی برای تنظیم دقیق DistilBERT برای NER در برنامه‌های جستجوی رستوران.

• راهنمای تفصیلی در مورد آماده سازی داده ها، نشانه گذاری، و آموزش مدل.

• جلسات عملی برای ساخت، ارزیابی و استقرار مدل‌های NER.

بخش 9: خلاصه سازی سفارشی با ترانسفورماتور T5

• راهنمای عملی برای تنظیم دقیق مدل T5 برای کارهای خلاصه‌سازی.

• مرحله تفصیلی تجزیه و تحلیل مجموعه داده، نشانه گذاری، و تنظیم دقیق مدل.

• پیش‌بینی‌های خلاصه‌سازی را روی داده‌های سفارشی پیاده‌سازی کنید.

بخش 10: Vision Transformer برای طبقه بندی تصویر

• معرفی Vision Transformers (ViT) و کاربردهای آنها.

• راهنمای گام به گام استفاده از ViT برای طبقه بندی غذاهای هندی.

• تمرینات عملی در مورد پیش پردازش تصویر، آموزش مدل، و ارزیابی.

بخش 11: تنظیم دقیق مدل های زبان بزرگ در مجموعه داده های سفارشی

• بینش‌های نظری و مراحل عملی برای تنظیم دقیق مدل‌های زبان بزرگ (LLM).

• تکنیک های مختلف تنظیم دقیق، از جمله PEFT، LORA، و QLORA را کاوش کنید.

• جلسات برنامه نویسی عملی برای پیاده سازی تنظیم دقیق مجموعه داده های سفارشی برای LLM.

بخش 12: موضوعات تخصصی در تنظیم دقیق ترانسفورماتور

• درباره موضوعات پیشرفته مانند کوانتیزاسیون 8 بیتی و تنظیم دقیق مبتنی بر آداپتور بیاموزید.

• تکنیک‌های پیشرفته را برای بهینه‌سازی مدل‌های ترانسفورماتور بررسی و پیاده‌سازی کنید.

• جلسات عملی برای ایجاد توضیحات محصول با استفاده از مدل‌های تنظیم‌شده.

بخش 13: ساخت مدل‌های چت و دستورالعمل با LLAMA

• درباره موضوعات پیشرفته مانند کوانتیزاسیون 4 بیتی و تنظیم دقیق مبتنی بر آداپتور بیاموزید.

• تکنیک‌هایی برای تنظیم دقیق مدل پایه LLAMA برای چت و وظایف مبتنی بر دستورالعمل.

• نمونه‌های عملی و راهنمایی عملی برای ساخت، آموزش، و استقرار مدل‌های گپ.

• اهمیت مجموعه داده‌های قالب چت و پیکربندی مدل برای تنظیم دقیق PEFT را کاوش کنید.

اکنون در «تسلط بر مدل‌های ترانسفورماتور و تنظیم دقیق LLM در مجموعه داده‌های سفارشی» ثبت‌نام کنید و مهارت‌هایی را برای استفاده از قدرت مدل‌های پیشرفته NLP به دست آورید. چه به تازگی شروع کرده اید و چه به دنبال افزایش تخصص خود هستید، این دوره دانش و تجربه عملی ارزشمندی را برای ارتقای مهارت شما در زمینه پردازش زبان طبیعی ارائه می دهد.

با دوره جامع ما پتانسیل کامل مدل های ترانسفورماتور را باز کنید. بر تکنیک‌های تنظیم دقیق برای انواع BERT مسلط شوید، تقطیر دانش را با DistilBERT، MobileBERT، و TinyBERT بررسی کنید، و مدل‌های پیشرفته‌ای مانند RoBERTa، ALBERT، XLNet و Vision Transformers را برای برنامه‌های NLP در دنیای واقعی اعمال کنید. با استفاده از ابزار Hugging Face، T5 برای خلاصه‌سازی، نمونه‌های عملی را بیاموزید و با LLAMA مدل‌های چت سفارشی بسازید.

کلمات کلیدی: مدل‌های ترانسفورماتور، تنظیم دقیق BERT، DistilBERT، MobileBERT، TinyBERT، RoBERTa، ALBERT، XLNet، ELECTRA، ConvBERT، DeBERTa، Vision Transformer، T5، BART، Pegasus، GPT-3، DeiT، ترانسفورماتور Swin، Hugg چهره، برنامه‌های NLP، تقطیر دانش، مدل‌های چت سفارشی، LLAMA.