آموزش آشنایی با مدل‌های ترنسفورمر برای NLP: بخش اول - آخرین آپدیت

آشنایی با مدل‌های ترنسفورمر برای NLP: بخش اول Introduction to Transformer Models for NLP: Unit 1

• مقدمه دوره تخصصی Specialization Introduction

• سرفصل‌ها Topics

• تاریخچه مختصری از NLP A brief history of NLP

• بررسی مکانیزم توجه (Attention) Paying attention with attention

• معماری‌های رمزگذار-رمزگشا (Encoder-Decoder) Encoder-decoder architectures

• نحوه تحلیل متن توسط مدل‌های زبانی How language models look at text

• سرفصل‌ها Topics

• مقدمه‌ای بر ترنسفورمرها Introduction to transformers

• مکانیزم Scaled Dot-Product Attention Scaled dot product attention

• مکانیزم Multi-Headed Attention Multi-headed attention

• سرفصل‌ها Topics

• مقدمه‌ای بر یادگیری انتقالی (Transfer Learning) Introduction to Transfer Learning

• آشنایی با کتابخانه PyTorch Introduction to PyTorch

• بهینه‌سازی (Fine-tuning) ترنسفورمرها با PyTorch Fine-tuning transformers with PyTorch