لطفا جهت اطلاع از آخرین دوره ها و اخبار سایت در
کانال تلگرام
عضو شوید.
آموزش بهینهسازی و فاینتیونینگ مدلهای متنی با PEFT
- آخرین آپدیت
دانلود Fine-tuning Text Models with PEFT
نکته:
ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره:
دوره «فاینتیونینگ مدلهای متنی با PEFT» برای توسعهدهندگان، مهندسان و سازندگان محصولات فنی طراحی شده است که در حوزه هوش مصنوعی مولد (Generative AI) تازهکار هستند اما دانش متوسطی در یادگیری ماشین، تسلط پایه به پایتون و آشنایی با محیطهای توسعه مانند VS Code دارند و قصد دارند بدون وابستگی به یک فروشنده خاص (Vendor Lock-in)، راهکارهای هوش مصنوعی مولد باز را مهندسی، سفارشیسازی و مستقر کنند.
این دوره زبانآموزان را با روشهای فاینتیونینگ بهینه از نظر پارامتر (PEFT) آشنا میکند که امکان تطبیق مدلهای زبانی بزرگ (LLM) را روی سختافزارهای محدود فراهم میسازد. یادگیرندگان با مفاهیم بنیادی PEFT و روش LoRA (تطبیق کمرتبه) شروع کرده و مزایای آنها را نسبت به فاینتیونینگ کامل از نظر حافظه، هزینه و انعطافپذیری درک میکنند.
سپس دوره به بررسی پیادهسازی QLoRA میپردازد که ترکیب کوانتیزاسیون و LoRA برای دستیابی به فاینتیونینگ با کارایی بالا روی GPUهای مصرفکننده است. یادگیرندگان تنظیم محیطهای آموزشی، آمادهسازی مجموعهدادهها، بهینهسازی هایپرپارامترها و مدیریت چکپوینتها را تمرین میکنند. ماژول نهایی بر ارزیابی متمرکز است و از معیارهایی مانند Perplexity، BLEU، ROUGE و BERTScore برای اندازهگیری بهبودها استفاده میکند. در پایان، یادگیرندگان یک خط لوله (Pipeline) فاینتیونینگ را پیادهسازی کرده و یک مدل LLM تطبیقیافته با دامنه خاص به همراه مستندات عملکرد تولید خواهند کرد.
سرفصل ها و درس ها
درک مفاهیم PEFT و LoRA
Understanding PEFT and LoRA
پادکست: فاینتیونینگی که در دنیای واقعی جواب میدهد
Podcast: Fine-Tuning That Works in the Real World
کاربرد LoRA: نحوه انطباق و جایگذاری
LoRA Applied: How It Fits
فاینتیونینگ بهینه با LoRA: آموزش و ارزیابی در عمل
Efficient Fine-Tuning with LoRA: Training and Evaluation in Practice
چرا LoRA کار میکند: ساختار کمرتبه در بهروزرسانیهای واقعی مدل
Why LoRA Works: Low-Rank Structure in Real Model Updates
استفاده از LoRA در محیط عملیاتی: آداپتورهای ماژولار و فاینتیونینگ چنددامنهای
Using LoRA in Production: Modular Adapters and Multi-Domain Fine-Tuning
پیادهسازی فاینتیونینگ با QLoRA
Implementing Fine-Tuning with QLoRA
پادکست: پیادهسازی فاینتیونینگ با QLoRA
Podcast: Implementing Fine-Tuning with QLoRA
راهاندازی QLoRA در ژوپیتر (Jupyter)
Setting Up QLoRA in Jupyter
آموزش و عیبیابی مدل QLoRA
Training and Debugging a QLoRA Model
نمایش نظرات