آموزش کمی سازی برای مدل های GenAI

دانلود Quantization for GenAI Models

نکته: آخرین آپدیت رو دریافت میکنید حتی اگر این محتوا بروز نباشد.
نمونه ویدیوها:
توضیحات دوره: قدرت بهینه سازی مدل را باز کنید! یاد بگیرید چگونه کوانتیزه کردن را اعمال کنید و مدل های GenAI خود را کارآمد کنید با تکنیک های بهینه سازی مدل Python درک کنید: هرس، تقطیر و کوانتیزه سازی اصول اولیه انواع داده مانند FP32، FP16، BFloat16 و INT8 Master downcasting از FP32 به BF16 و FP32 به INT8 را یاد بگیرید. تفاوت بین کوانتیزاسیون متقارن و نامتقارن پیاده سازی تکنیک های کوانتیزاسیون در Python با مثال‌های واقعی استفاده از کوانتیزاسیون برای کارآمدتر کردن و آماده‌سازی مدل‌ها کسب مهارت‌های عملی برای بهینه‌سازی مدل‌ها برای دستگاه‌های لبه و محیط‌های محدود به منابع پیش نیازها: دانش پایه پایتون توصیه می‌شود، اما نیازی به تجربه قبلی هوش مصنوعی نیست.

اگر توسعه‌دهنده، دانشمند داده یا علاقه‌مند به یادگیری ماشینی هستید که می‌خواهید مدل‌های هوش مصنوعی کارآمد را بهینه کرده و به کار ببرید، این دوره برای شما مناسب است. آیا می‌خواهید مدل‌های خود را با حفظ عملکرد سریع‌تر و کارآمدتر کنید؟ آیا به دنبال یادگیری نحوه اعمال تکنیک های کوانتیزاسیون برای استقرار بهتر مدل هستید؟ این دوره به شما می آموزد که چگونه تکنیک های کوانتیزاسیون عملی را پیاده سازی کنید و مدل های خود را ناب و قابل استقرار در دستگاه های لبه کنید.

در این دوره، شما:

مفاهیم اصلی کوانتیزاسیون، هرس، و تقطیر را بیاموزید.

  1. انواع داده‌های مختلف مانند FP32، FP16، BFloat16 و INT8 را درک کنید.

  2. نحوه تبدیل FP32 به BF16 و INT8 برای فشرده‌سازی کارآمد مدل را بررسی کنید.

  3. کوانتیزه‌سازی متقارن و نامتقارن را در پایتون با برنامه‌های دنیای واقعی پیاده‌سازی کنید.

  4. با نحوه پایین انداختن پارامترهای مدل از FP32 به INT8 برای استقرار آشنا شوید.

  5. تجربه عملی با کوانتیزاسیون مبتنی بر پایتون به دست آورید و مدل‌های خود را برای دستگاه‌های تلفن همراه و اینترنت اشیا مناسب کنید.

چرا کوانتیزاسیون را یاد بگیریم؟ Quantization به شما امکان می دهد اندازه و بار محاسباتی مدل ها را کاهش دهید و آنها را برای دستگاه های دارای محدودیت منابع مانند گوشی های هوشمند، دستگاه های IoT و سیستم های تعبیه شده مناسب می کند. با تسلط بر کوانتیزاسیون، می‌توانید مطمئن شوید که مدل‌هایتان سریع‌تر، کم‌مصرف‌تر و به کارگیری آسان‌تر و در عین حال حفظ دقت هستند.

در طول دوره، پیاده سازی تکنیک های کوانتیزاسیون و بهینه سازی مدل های خود را برای کاربردهای دنیای واقعی خواهید آموخت. این دوره تعادل کاملی بین تئوری و کاربرد عملی برای کارآمدتر کردن مدل‌های یادگیری ماشین ارائه می‌کند.

در پایان دوره، درک عمیقی از کوانتیزاسیون و توانایی بهینه‌سازی و استقرار مدل‌های کارآمد در دستگاه‌های لبه خواهید داشت.

آماده اید مدل های هوش مصنوعی خود را برای کارایی و عملکرد بهینه کنید؟ اکنون ثبت نام کنید و سفر خود را شروع کنید!


سرفصل ها و درس ها

مقدمه Introduction

  • مقدمه Introduction

تکنیک های بهینه سازی مدل هوش مصنوعی ژنرال Gen AI model optimisation techniques

  • مقدمه ای بر مدل های Gen AI Introduction to Gen AI models

  • تکنیک های بهینه سازی مدل - مقدمه Model optimisation techniques - Introduction

  • مقدمه ای بر هرس Introduction to Pruning

  • مقدمه ای بر تقطیر دانش Introduction to Knowledge Distillation

  • مقدمه ای بر کوانتیزاسیون Introduction to Quantization

  • امتحان Quiz

انواع داده ها و نمایش شماره Data Types and Number Representation

  • انواع داده ها و نمایش شماره Data Types and Number Representation

  • انواع داده های عدد صحیح Integer Data types

  • انواع داده های عدد صحیح در PyTorch Integer Data typesin PyTorch

  • اعداد ثابت 8 بیتی 8-Bit Fixed-Point Numbers

  • اعداد ممیز شناور Floating-Point Numbers

  • سایر فرمت های Floating-Point Other Floating-Point formats

  • انواع داده های نقطه شناور در PyTorch Floating Point data types in PyTorch

  • فرمت های دیگر Other formats

  • امتحان Quiz

کوانتیزاسیون Quantization

  • حذف FP32 به BF16 Downcasting FP32 to BF16

  • حذف تانسورها در پایتون Downcasting of tensors in Python

  • حذف یک مدل ML در پایتون Downcasting of an ML model in Python

  • دانلود FP32 به INT8 Downcasting FP32 to INT8

  • کوانتیزاسیون متقارن Symmetrics quantization

  • کوانتیزاسیون نامتقارن Asymmetrics quantization

  • کوانتیزاسیون GPT Neo 125 GPT Neo 125 quantization

  • امتحان Quiz

نمایش نظرات

آموزش کمی سازی برای مدل های GenAI
جزییات دوره
2.5 hours
21
Udemy (یودمی) Udemy (یودمی)
(آخرین آپدیت)
33
4.9 از 5
ندارد
دارد
دارد
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Start-Tech Academy Start-Tech Academy

بیش از 1،700،000+ ثبت نام | 4+ رتبه بندی شده | 160+ CountriesStart-Tech Academy یک شرکت آموزش تجزیه و تحلیل مبتنی بر فناوری است و هدف آن گردآوری شرکتهای تحلیلی و فراگیران علاقه مند است. محتوای آموزشی با کیفیت بالا به همراه کارآموزی و فرصت های پروژه به دانشجویان در شروع سفر Analytics خود کمک می کند. بنیانگذار Abhishek Bansal و Pukhraj Parikh است. Pukhraj که به عنوان مدیر پروژه در یک شرکت مشاوره آنالیز کار می کند ، چندین سال تجربه کار بر روی ابزارها و نرم افزارهای تجزیه و تحلیل را دارد. او در مجموعه های اداری MS ، رایانش ابری ، SQL ، Tableau ، SAS ، Google analytics و Python مهارت دارد. Abhishek قبل از اینکه به فن آوری های یادگیری و آموزش مانند یادگیری ماشین و هوش مصنوعی بپردازد ، به عنوان یک مالک فرآیند اکتساب در یک شرکت مخابراتی پیشرو کار می کرد.