آموزش Transformers in Computer Vision - نسخه انگلیسی

سرفصل ها و درس ها

معرفی Introduction

• معرفی Introduction

مروری بر شبکه های ترانسفورماتور Overview of Transformer Networks

• ظهور ترانسفورماتورها The Rise of Transformers

• تعصب القایی در مدل های شبکه عصبی عمیق Inductive Bias in Deep Neural Network Models

• توجه یک ایده کلی DL است Attention is a General DL idea

• توجه در NLP Attention in NLP

• توجه تمام چیزی است که شما نیاز دارید Attention is ALL you need

• مکانیسم های توجه به خود Self Attention Mechanisms

• معادلات ماتریس توجه خود Self Attention Matrix Equations

• توجه چند سر Multihead Attention

• توجه رمزگذار-رمزگشا Encoder-Decoder Attention

• مزایا و معایب ترانسفورماتورها Transformers Pros and Cons

• پیش تمرینی بدون نظارت Unsupervised Pre-training

ترانسفورماتورها در بینایی کامپیوتر Transformers in Computer Vision

• نقشه راه ماژول Module roadmap

• الگوی طراحی رمزگذار-رمزگشا Encoder-Decoder Design Pattern

• رمزگذارهای کانولوشنال Convolutional Encoders

• توجه به خود در مقابل پیچیدگی Self Attention vs. Convolution

• توجه فضایی در مقابل کانال در مقابل توجه زمانی Spatial vs. Channel vs. Temporal Attention

• تعمیم معادلات توجه به خود Generalization of self attention equations

• توجه محلی در مقابل جهانی Local vs. Global Attention

• مزایا و معایب توجه در CV Pros and Cons of Attention in CV

ترانسفورماتورها در طبقه بندی تصویر Transformers in Image Classification

• ترانسفورماتورها در طبقه بندی تصویر Transformers in image classification

• Vision Transformers (ViT و DeiT) Vistion Transformers (ViT and DeiT)

• ترانسفورماتورهای پنجره تغییر یافته (SWIN) Shifted Window Transformers (SWIN)

ترانسفورماتورها در تشخیص شی Transformers in Object Detection

• ترانسفورماتورها در تشخیص شی Transformers in Object detection

• بررسی روش های تشخیص اشیاء Obejct Detection methods review

• تشخیص شی با ConvNet - YOLO Object Detection with ConvNet - YOLO

• ترانسفورماتورهای تشخیص (DETR) DEtection TRansformers (DETR)

• مورد استفاده DETR در مقابل YOLOv5 DETR vs. YOLOv5 use case

ترانسفورماتورها در تقسیم بندی معنایی Transformers in Semantic Segmentation

• نقشه راه ماژول Module roadmap

• تقسیم بندی تصویر با استفاده از ConvNets Image Segmentation using ConvNets

• تقسیم بندی تصویر با استفاده از ترانسفورماتورها Image Segmentation using Transformers

ترانسفورماتورهای فضایی-زمانی Spatio-Temporal Transformers

• ترانسفورماتورهای فضایی-زمانی - تشخیص شی متحرک و یادگیری چند ترسک Spatio-Temporal Transformers - Moving Object Detection and Multi-trask Learning

Huggingface Vision Transformers Huggingface Vision Transformers

• نقشه راه ماژول Module roadmap

• نمای کلی خط لوله Huggingface Huggingface Pipeline overview

• ترانسفورماتور بینایی Huggingface Huggingface vision transformers

• نسخه ی نمایشی Huggingface با استفاده از Gradio Huggingface Demo using Gradio

نتیجه Conclusion

• نتیجه گیری دوره Course conclusion

مواد Material

• اسلایدها Slides