این دوره یک مقدمه عملی و کاربردی برای مبتدیان در زمینه بهینهسازی یا Fine-tuning مدلهای زبانی بزرگ (LLMs)ارائه میدهد. شما ابتدا با تعریف Fine-tuning، اهمیت آن و کاربردهای واقعیاش در دنیای امروز آشنا خواهید شد. سپس، دوره به بررسی متدها و تکنیکهای اصلی Fine-tuningمیپردازد و تمرکز ویژهای بر روش LoRA (تطبیق کمرتبه)دارد. شما خواهید آموخت که چگونه این رویکردهای بهینه در مصرف پارامتر، آموزش مدلهای بزرگ را حتی روی سختافزارهای معمولی و محدود ممکن میسازند؛ به این معنا که برای ساخت یک هوش مصنوعی تخصصی و قدرتمند، نیازی به کلاسترهای محاسباتی عظیم و گرانقیمت ندارید.
همچنین بررسی خواهیم کرد که Fine-tuning چگونه در صنایع مختلف به کار میرود و به صورت عملی بر روی وظایف تخصصی مانند سیستمهای پاسخگویی به سوالات در حوزه پزشکی تمرکز میکنیم.
با استفاده از مدل GPT2 به عنوان مدل پایه، پیش از شروع آموزش عملی، معماری، قابلیتها و آمارهای کلیدی آن را تحلیل خواهید کرد. شما یاد میگیرید که چگونه مجموعهدادهها (Datasets) را آماده کنید، تعداد نمونههای مناسب را انتخاب نمایید، آرگومانهای آموزش را پیکربندی کرده و چرخه کامل آموزش را با استفاده از Trainer API کتابخانه Hugging Faceاجرا کنید. این دوره همچنین شامل مباحث ذخیرهسازی، بارگذاری و ادغام آداپتورهای LoRA در مدل پایه است.
در نهایت، مدل Fine-tune شده خود را با مدل پیشآموزشدیده (Pre-trained) اولیه مقایسه میکنید تا میزان بهبود عملکرد را بسنجید. تمام این مراحل با بررسی خطبهخط کدهاهمراه است تا فرآیند یادگیری شفاف و تکرارپذیر باشد. در پایان، دو مورد کاربردی دیگر در زمینه طبقهبندی (Classification) و شناسایی موجودات نامدار (NER) با استفاده از مدلهای پایه مختلف به دوره اضافه شده است.
Smitashree Choudhury
دانشمند ارشد داده (Principal Data Scientist)
نمایش نظرات