لطفا جهت اطلاع از آخرین دوره ها و اخبار سایت در
کانال تلگرام
عضو شوید.
دوره آموزشی مکانیزمهای توجه (Attention) و مدلهای ترنسفورمر
- آخرین آپدیت
دانلود Attention Mechanisms and Transformer Models Course
نکته:
ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره:
این دوره جامع یادگیری عمیق، مقدمهای کامل بر مکانیزمهای توجه و مدلهای ترنسفورمر، که زیربنای سیستمهای مدرن هوش مصنوعی مولد (GenAI) هستند، ارائه میدهد. در ابتدا با بررسی تغییر رویکرد از شبکههای عصبی سنتی به معماریهای مبتنی بر توجه آشنا میشوید. یاد میگیرید که چگونه توجههای جمعی (Additive)، ضربی (Multiplicative) و خود-توجه (Self-Attention) دقت مدلها را در وظایف پردازش زبان طبیعی (NLP) و بینایی ماشین بهبود میبخشند. در مکانیسمهای خود-توجه و نحوه قدرت بخشیدن به مدلهایی مانند GPT و BERT عمیق شوید. سپس در مسیر تسلط بر توجه چند-سره (Multi-head Attention) و اجزای ترنسفورمر پیش رفته و نقش آنها را در تولید پیشرفته متن و تصویر بررسی میکنید. همچنین از طریق دموهای عملی با مدلهای GPT، DALL-E، LLaMa و BERT، دیدگاهی کاربردی به دست خواهید آورد.
برای موفقیت در این دوره، داشتن دانش پایه در زمینه شبکههای عصبی، مفاهیم یادگیری ماشین و برنامهنویسی پایتون توصیه میشود.
در پایان این دوره، شما قادر خواهید بود:
- توضیح دهید که مکانیزمهای توجه چگونه مدلهای یادگیری عمیق را ارتقا میدهند
- مکانیزمهای خود-توجه و توجه چند-سره را پیادهسازی و به کار ببرید
- معماری ترنسفورمر و موارد استفاده واقعی آن را درک کنید
- مدلهای پیشرو GenAI را در زمینههای NLP و تولید تصویر تحلیل کنید
این دوره برای توسعهدهندگان AI، مهندسان ML و دانشمندان داده ایدهآل است.
سرفصل ها و درس ها
مقدمهای بر مکانیزم توجه و خود-توجه
Introduction to Attention Mechanism and Self-Attention
اهداف یادگیری
Learning Objectives
نمای کلی مکانیزم توجه
Overview of Attention Mechanism
آشنایی با مکانیزم توجه
Introduction to Attention Mechanism
معماری سنتی و محدودیتهای آن
Traditional Architecture and Its Limitation
معماری مبتنی بر توجه و نحوه عملکرد مکانیزم توجه
Attention Based Architecture and Working of Attention Mechanism
انواع مکانیزم توجه: مکانیزم جمعی
Types of Attention Mechanism: Additive Mechanism
انواع مکانیزم توجه: مکانیزم ضربی
Types of Attention Mechanism: Multiplicative Mechanism
انواع مکانیزم توجه: خود-توجه
Types of Attention Mechanism: Self Attention
نمایش نظرات