لطفا جهت اطلاع از آخرین دوره ها و اخبار سایت در
کانال تلگرام
عضو شوید.
آموزش مدلسازی توالی، ترنسفورمرها و یادگیری انتقالی
- آخرین آپدیت
دانلود Sequence Modeling, Transformers, and Transfer Learning
نکته:
ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره:
این دوره شامل مربی هوشمند کورسرا (Coursera Coach) است!
روشی هوشمندتر برای یادگیری با گفتگوهای تعاملی و بلادرنگ که به شما کمک میکند دانش خود را آزمایش کنید، پیشفرضها را به چالش بکشید و در حین پیشروی در دوره، درک خود را عمیقتر کنید.
این دوره سفری جامع به دنیای مدلسازی توالی (Sequence Modeling)، ترنسفورمرها و یادگیری انتقالی (Transfer Learning) است و شما را به مهارتهای لازم برای ساخت مدلهای قدرتمند برای پردازش زبان طبیعی (NLP) و سایر وظایف دادههای متوالی مجهز میکند. شما با تسلط بر شبکههای عصبی بازگشتی (RNNs)، شامل معماری آنها، تکنیکهای آموزش مانند پسانتشار در زمان (BPTT) و مدلهای تخصصی مانند حافظه کوتاه-مدت طولانی (LSTM) و واحدهای بازگشتی دریچهای (GRUs) شروع خواهید کرد. سپس دوره به سراغ مدلهای توالی-به-توالی (Seq2Seq) میرود که برای کارهایی مانند ترجمه، خلاصهسازی و تولید متن حیاتی هستند.
در مرحله بعد، معماری پیشگامانه ترنسفورمر که ستون فقرات مدلهای مدرن NLP مانند BERT و GPT است، مورد بررسی قرار میگیرد. شما در مکانیزمهای توجه (Attention Mechanisms)، خود-توجهی (Self-attention) و توجه چند-سره (Multi-head attention) غوطهور میشوید و درک خواهید کرد که این اجزا چگونه روابط متنی را در متن استخراج میکنند. همچنین تجربه عملی با مدلهای ترنسفورمر پیشآموزشدیده را کسب کرده و یاد میگیرید چگونه آنها را در وظایف واقعی NLP مانند خلاصهسازی و ترجمه متن به کار ببرید.
در بخش نهایی، بر یادگیری انتقالی تمرکز خواهید کرد؛ تکنیکی که امکان استفاده مجدد از مدلهای پیشآموزشدیده را برای حل وظایف جدید با منابع کمتر فراهم میکند. این دوره به شما میآموزد که چگونه مدلها را برای کاربردهای بینایی ماشین و NLP، از جمله استراتژیهای انطباق دامنه (Domain Adaptation) و چالشهای آن، بهینهسازی (Fine-tune) کنید. با یک پروژه عملی در پایان دوره، یادگیری انتقالی را برای بهینهسازی یک مدل برای یک وظیفه سفارشی به کار میگیرید و توانایی خود را در تطبیق مدلهای پیشرفته با مسائل دنیای واقعی نشان میدهید.
این دوره برای یادگیرندگانی که درک پایهای از یادگیری ماشین دارند و میخواهند دانش خود را در یادگیری عمیق، مدلسازی توالی و یادگیری انتقالی ارتقا دهند، ایدهآل است. داشتن دانش قبلی از زبان پایتون و مفاهیم پایه یادگیری ماشین توصیه میشود. این دوره برای یادگیرندگان سطح متوسطی است که به دنبال تعمیق درک و مهارتهای عملی خود در هوش مصنوعی و یادگیری عمیق هستند.
در پایان این دوره، شما قادر خواهید بود مدلهای توالی مانند RNNها را پیادهسازی کنید، ترنسفورمرها را با استفاده از مکانیزمهای توجه بسازید، یادگیری انتقالی را برای بهینهسازی مدلهای پیشآموزشدیده به کار ببرید و وظایف پیچیده NLP مانند ترجمه، خلاصهسازی و تولید متن را حل کنید.
سرفصل ها و درس ها
شبکههای عصبی بازگشتی (RNNs) و مدلسازی توالی
Recurrent Neural Networks (RNNs) and Sequence Modeling
روز اول: مقدمهای بر مدلسازی توالی و RNNها
Day 1: Introduction to Sequence Modeling and RNNs
روز دوم: درک معماری RNN و پسانتشار در زمان (BPTT)
Day 2: Understanding RNN Architecture and Backpropagation Through Time (BPTT)
روز سوم: شبکههای حافظه کوتاه-مدت طولانی (LSTM)
Day 3: Long Short-Term Memory (LSTM) Networks
روز چهارم: واحدهای بازگشتی دریچهای (GRUs)
Day 4: Gated Recurrent Units (GRUs)
روز پنجم: پیشپردازش متن و جاسازی کلمات (Word Embeddings) برای RNNها
Day 5: Text Preprocessing and Word Embeddings for RNNs
روز ششم: مدلهای توالی-به-توالی و کاربردهای آنها
Day 6: Sequence-to-Sequence Models and Applications
روز هفتم: پروژه RNN – تولید متن یا تحلیل احساسات
Day 7: RNN Project – Text Generation or Sentiment Analysis
ترنسفورمرها و مکانیزمهای توجه
Transformers and Attention Mechanisms
روز اول: مقدمهای بر مکانیزمهای توجه
Day 1: Introduction to Attention Mechanisms
روز دوم: مقدمهای بر معماری ترنسفورمرها
Day 2: Introduction to Transformers Architecture
روز سوم: خود-توجهی و توجه چند-سره در ترنسفورمرها
Day 3: Self-Attention and Multi-Head Attention in Transformers
روز چهارم: کدگذاری موقعیتی و شبکههای پیشخور (Feed Forward)
Day 4: Positional Encoding and Feed-Forward Networks
روز پنجم: کار عملی با ترنسفورمرهای پیشآموزشدیده – BERT و GPT
Day 5: Hands-On with Pre-Trained Transformers – BERT and GPT
روز ششم: ترنسفورمرهای پیشرفته – نسخههای BERT و GPT-3
Day 6: Advanced Transformers – BERT Variants and GPT-3
روز هفتم: پروژه ترنسفورمر – خلاصهسازی یا ترجمه متن
Day 7: Transformer Project – Text Summarization or Translation
یادگیری انتقالی و بهینهسازی (Fine Tuning)
Transfer Learning and Fine-Tuning
روز اول: مقدمهای بر یادگیری انتقالی
Day 1: Introduction to Transfer Learning
روز دوم: یادگیری انتقالی در بینایی ماشین
Day 2: Transfer Learning in Computer Vision
روز سوم: تکنیکهای بهینهسازی (Fine Tuning) در بینایی ماشین
Day 3: Fine-Tuning Techniques in Computer Vision
روز چهارم: یادگیری انتقالی در پردازش زبان طبیعی (NLP)
Day 4: Transfer Learning in NLP
روز پنجم: تکنیکهای بهینهسازی (Fine Tuning) در NLP
Day 5: Fine-Tuning Techniques in NLP
روز ششم: انطباق دامنه و چالشهای یادگیری انتقالی
Day 6: Domain Adaptation and Transfer Learning Challenges
روز هفتم: پروژه یادگیری انتقالی – بهینهسازی برای یک وظیفه سفارشی
Day 7: Transfer Learning Project – Fine-Tuning for a Custom Task
نمایش نظرات