NLP-پردازش زبان طبیعی در پایتون برای مبتدیان [ویدئو]

سرفصل ها و درس ها

معرفی Introduction

• مقدمه دوره Introduction to the Course

• معرفی مربی Introduction to the Instructor

• معرفی مربی مشترک Introduction to the Co-Instructor

• معرفی دوره Course Introduction

مقدمه (عبارات منظم) Introduction (Regular Expressions)

• بیان منظم چیست؟ What is Regular Expression

• چرا بیان منظم Why Regular Expression

• ربات چت الایزا ELIZA Chatbot

• بسته عبارت منظم پایتون Python Regular Expression Package

متاکاراکترها (عبارات منظم) Metacharacters (Regular Expressions)

• متا شخصیت ها Metacharacters

• Metacharacters Bigbrackets Exercise Metacharacters Bigbrackets Exercise

• راه حل تمرین شخصیت های متا Bigbrackets Meta Characters Bigbrackets Exercise Solution

• Metacharacters Bigbrackets Exercise 2 Metacharacters Bigbrackets Exercise 2

• Metacharacters Bigbrackets تمرین 2 - راه حل Metacharacters Bigbrackets Exercise 2 - Solution

• کلاه متاکاراکترها Metacharacters Cap

• تمرین 3 فراکاراکترها Metacharacters Cap Exercise 3

• فراکاراکترها درپوش تمرین 3 - راه حل Metacharacters Cap Exercise 3 - Solution

• بک اسلش Backslash

• بک اسلش ادامه دارد Backslash Continued

• بک اسلش ادامه دارد - 01 Backslash Continued - 01

• تمرین براکت های مربعی بک اسلش Backslash Squared Brackets Exercise

• راه حل تمرین براکت های مربعی بک اسلش Backslash Squared Brackets Exercise Solution

• تمرین براکت های مربعی بک اسلش - راه حلی دیگر Backslash Squared Brackets Exercise - Another Solution

• تمرین بک اسلش Backslash Exercise

• راه حل تمرین بک اسلش و تمرین سکانس های خاص Backslash Exercise Solution and Special Sequences Exercise

• راه حل و توالی های خاص راه حل تمرین Solution and Special Sequences Exercise Solution

• ستاره متاکاراکتر Metacharacter Asterisk

• تمرین ستاره متاکاراکتر Metacharacter Asterisk Exercise

• راه حل تمرین ستاره متاکاراکتر Metacharacter Asterisk Exercise Solution

• تکلیف ستاره متاکاراکتر Metacharacter Asterisk Homework

• ستاره متاکاراکتر حریص تطبیق Metacharacter Asterisk Greedy Matching

• متاکاراکتر پلاس و علامت سوال Metacharacter Plus and Question Mark

• Metacharacter Curly Brackets Exercise Metacharacter Curly Brackets Exercise

• راه حل تمرین براکت های فرفری متاکاراکتر Metacharacter Curly Brackets Exercise Solution

اشیاء الگو (عبارات منظم) Pattern Objects (Regular Expressions)

• اشیاء الگو Pattern Objects

• تمرین روش تطبیق اشیاء الگو Pattern Objects Match Method Exercise

• راه حل تمرین روش اشیاء الگو مطابقت دارند Pattern Objects Match Method Exercise Solution

• روش مطابقت اشیاء الگو در مقابل روش جستجو Pattern Objects Match Method Versus Search Method

• روش یاب اشیاء الگو Pattern Objects Finditer Method

• راه حل تمرین روش یاب اشیاء الگو Pattern Objects Finditer Method Exercise Solution

متاکاراکترهای بیشتر (عبارات منظم) More Metacharacters (Regular Expressions)

• متاکاراکترهای منطقی یا Metacharacters Logical Or

• الگوهای آغاز و پایان متاکاراکترها Metacharacters Beginning and End Patterns

• پرانتز متاکاراکترها Metacharacters Parentheses

اصلاح رشته (عبارات منظم) String Modification (Regular Expressions)

• اصلاح رشته String Modification

• توکنایزر ورد با استفاده از روش تقسیم Word Tokenizer Using Split Method

• تمرین روش فرعی Sub Method Exercise

• راه حل تمرین روش فرعی Sub Method Exercise Solution

کلمات و نشانه ها (پیش پردازش متن) Words and Tokens (Text Preprocessing)

• کلمه چیست What is a Word

• تعریف Word وابسته به وظیفه است Definition of Word is Task Dependent

• واژگان و مجموعه Vocabulary and Corpus

• توکن ها Tokens

• توکن سازی در فضایی Tokenization in Spacy

طبقه بندی احساسات (پیش پردازش متن) Sentiment Classification (Text Preprocessing)

• Yelp Reviews Classification Mini Project Yelp Reviews Classification Mini Project Introduction

• Yelp Reviews Classification Mini Project Vocabulary Initialization Yelp Reviews Classification Mini Project Vocabulary Initialization

• Yelp Reviews Classification Mini Project افزودن توکن به واژگان Yelp Reviews Classification Mini Project Adding Tokens to Vocabulary

• Yelp Reviews Classification Mini Project Search Up توابع در واژگان Yelp Reviews Classification Mini Project Look Up Functions in Vocabulary

• Yelp Reviews Classification Mini Project Building Vocabulary from Data Yelp Reviews Classification Mini Project Building Vocabulary from Data

• Yelp Reviews Classification Mini Project Encoding One-Hot Yelp Reviews Classification Mini Project One-Hot Encoding

• Yelp Reviews Classification Mini Project One-Hot Encoding Implementation Yelp Reviews Classification Mini Project One-Hot Encoding Implementation

• اسناد رمزگذاری پروژه کوچک طبقه بندی بررسی های Yelp Yelp Reviews Classification Mini Project Encoding Documents

• Yelp Reviews Classification Mini Project Encoding Documents پیاده سازی Yelp Reviews Classification Mini Project Encoding Documents Implementation

• Yelp Reviews Classification Mini Project Train Splits Yelp Reviews Classification Mini Project Train Test Splits

• Yelp Reviews Classification Mini Project Computing ویژگی Yelp Reviews Classification Mini Project Feature Computation

• Yelp Reviews Classification Mini Project Classification Yelp Reviews Classification Mini Project Classification

توکن سازی مستقل از زبان (پیش پردازش متن) Language Independent Tokenization (Text Preprocessing)

• توکن سازی در مقدمه جزئی Tokenization in Detial Introduction

• توکن سازی سخت است Tokenization is Hard

• رمزگذاری جفت بایت رمزگذاری Tokenization Byte Pair Encoding

• مثال رمزگذاری جفت بایت رمزگذاری Tokenization Byte Pair Encoding Example

• رمزگذاری جفت بایت رمزگذاری روی داده های آزمایشی Tokenization Byte Pair Encoding on Test Data

• پیاده سازی رمزگذاری جفت بایت رمزگذاری دریافت تعداد جفت Tokenization Byte Pair Encoding Implementation Get Pair Counts

• ادغام پیاده سازی رمزگذاری جفت بایت رمزگذاری در Corpus Tokenization Byte Pair Encoding Implementation Merge in Corpus

• آموزش BFE پیاده سازی رمزگذاری جفت بایت رمزگذاری Tokenization Byte Pair Encoding Implementation BFE Training

• پیاده سازی رمزگذاری جفت بایت رمزگذاری رمزگذاری BFE Tokenization Byte Pair Encoding Implementation BFE Encoding

• رمزگذاری جفت بایت رمزگذاری پیاده سازی BFE رمزگذاری یک جفت Tokenization Byte Pair Encoding Implementation BFE Encoding One Pair

• پیاده سازی رمزگذاری جفت بایت رمزگذاری رمزگذاری BFE یک جفت 1 Tokenization Byte Pair Encoding Implementation BFE Encoding One Pair 1

عادی سازی متن (پیش پردازش متن) Text Normalization(Text Preprocessing)

• تاشو مورد عادی سازی کلمه Word Normalization Case Folding

• Lemmatization نرمال سازی کلمه Word Normalization Lemmatization

• ریشه عادی سازی کلمه Word Normalization Stemming

• تقسیم بندی جملات عادی سازی کلمه Word Normalization Sentence Segmentation

تطبیق رشته و تصحیح املا (پیش پردازش متن) String Matching and Spelling Correction (Text Preprocessing)

• تصحیح املا حداقل فاصله ویرایش مقدمه Spelling Correction Minimum Edit Distance Introduction

• تصحیح املا حداقل فاصله ویرایش مثال Spelling Correction Minimum Edit Distance Example

• تصحیح املا حداقل ویرایش فاصله پر کردن جدول Spelling Correction Minimum Edit Distance Table Filling

• تصحیح املا حداقل ویرایش برنامه ریزی پویا فاصله Spelling Correction Minimum Edit Distance Dynamic Programming

• تصحیح املا حداقل فاصله ویرایش شبه کد Spelling Correction Minimum Edit Distance Pseudocode

• تصحیح املا اجرای حداقل فاصله ویرایش Spelling Correction Minimum Edit Distance Implementation

• تصحیح املا حداقل ویرایش فاصله پیاده سازی رفع اشکال Spelling Correction Minimum Edit Distance Implementation Bug fixing

• اجرای تصحیح املا Spelling Correction Implementation

مدل سازی زبان Language Modeling

• مدل زبان چیست؟ What is a Language Model

• تعریف رسمی مدل زبان Language Model Formal Definition

• زبان مدل نفرین ابعاد Language Model Curse of Dimensionality

• مدل زبان مارکوف فرضی و N-گرم Language Model Markov Assumption and N-Grams

• راه اندازی پیاده سازی مدل زبان Language Model Implementation Setup

• پیاده سازی مدل زبان تابع N-grams Language Model Implementation N-grams Function

• تابع شمارش به روز رسانی پیاده سازی مدل زبان Language Model Implementation Update Counts Function

• تابع مدل احتمال پیاده سازی مدل زبان Language Model Implementation Probability Model Function

• پیکره خواندن پیاده سازی مدل زبان Language Model Implementation Reading Corpus

• متن نمونه پیاده سازی مدل زبان Language Model Implementation Sampling Text

مدل سازی موضوع با بازنمایی های Word و Document Topic Modelling with Word and Document Representations

• بردارهای تک داغ One-Hot Vectors

• پیاده سازی بردارهای داغ One-Hot Vectors Implementation

• محدودیت های بردار یک داغ One-Hot Vectors Limitations

• بردارهای تک داغ که به عنوان برچسب‌گذاری هدف استفاده می‌شوند One-Hot Vectors Used as Target Labeling

• فرکانس مدت برای بازنمایی اسناد Term Frequency for Document Representations

• فرکانس مدت برای اجرای نمایش اسناد Term Frequency for Document Representations Implementations

• فرکانس اصطلاح برای بازنمایی های کلمه Term Frequency for Word Representations

• TFIDF برای بازنمایی اسناد TFIDF for Document Representations

• TFIDF برای پیاده سازی بازنمایی اسناد مجموعه خواندن TFIDF for Document Representations Implementation Reading Corpus

• TFIDF برای اجرای بازنمایی اسناد فرکانس محاسباتی سند TFIDF for Document Representations Implementation Computing Document Frequency

• TFIDF برای اجرای محاسبات بازنمایی اسناد TFIDF TFIDF for Document Representations Implementation Computing TFIDF

• مدل سازی موضوع با TFIDF 1 Topic Modeling with TFIDF 1

• مدل سازی موضوع با TFIDF 2 Topic Modeling with TFIDF 2

• مدل سازی موضوع با TFIDF 3 Topic Modeling with TFIDF 3

• مدل سازی موضوع با TFIDF 4 Topic Modeling with TFIDF 4

• مدلسازی موضوع با جنسیم Topic Modeling with Gensim

تعبیه کلمه LSI Word Embeddings LSI

• ماتریس هم‌وضعیت کلمه Word Co-Occurrence Matrix

• ماتریس همزمانی کلمه در مقابل ماتریس سند-مدت Word Co-Occurrence Matrix Versus Document-Term Matrix

• آماده سازی داده های پیاده سازی ماتریس هم رخدادی کلمه Word Co-Occurrence Matrix Implementation Preparing Data

• آماده سازی داده های پیاده سازی ماتریس هم رخدادی کلمه 2 Word Co-Occurrence Matrix Implementation Preparing Data 2

• پیاده سازی ماتریس هم رخدادی کلمه آماده سازی داده ها واژگان Word Co-Occurrence Matrix Implementation Preparing Data Getting Vocabulary

• تابع نهایی اجرای ماتریس هم رخداد کلمه Word Co-Occurrence Matrix Implementation Final Function

• اجرای ماتریس هم‌روی کلمه مدیریت مسائل حافظه در شرکت‌های بزرگ Word Co-Occurrence Matrix Implementation Handling Memory Issues on Large Corpora

• پراکندگی ماتریس همزمانی کلمه Word Co-Occurrence Matrix Sparsity

• PPMI اطلاعات متقابل عاقلانه نقطه مثبت ماتریس هم وقوع کلمه Word Co-Occurrence Matrix Positive Point Wise Mutual Information PPMI

• PCA برای جاسازی های متراکم PCA for Dense Embeddings

• تحلیل معنایی پنهان Latent Semantic Analysis

• پیاده سازی تحلیل معنایی پنهان Latent Semantic Analysis Implementation

معناشناسی کلمه Word Semantics

• شباهت کسینوس Cosine Similarity

• تشابه کسینوس دریافت هنجارهای بردارها Cosine Similarity Getting Norms of Vectors

• بردارهای عادی کننده تشابه کسینوس Cosine Similarity Normalizing Vectors

• شباهت کسینوس با بیش از یک بردار Cosine Similarity with More than One Vector

• تشابه کسینوس دریافت بیشترین کلمات مشابه در واژگان Cosine Similarity Getting Most Similar Words in the Vocabulary

• تشابه کسینوس دریافت بیشترین کلمات مشابه در واژگان رفع اشکال Cosine Similarity Getting Most Similar Words in the Vocabulary Fixing bug

• شباهت کسینوس تعبیه‌های Word2Vec Cosine Similarity Word2Vec Embeddings

• قیاس کلمات Word Analogies

• پیاده سازی قیاس کلمات 1 Words Analogies Implementation 1

• پیاده سازی قیاس کلمات 2 Word Analogies Implementation 2

• تجسم کلمات Word Visualizations

• پیاده سازی تجسم های کلمه Word Visualizations Implementation

• پیاده سازی تجسم کلمه 2 Word Visualizations Implementation 2

Word2vec (اختیاری) Word2vec(Optional)

• تعبیه‌های استاتیک و دینامیک Static and Dynamic Embeddings

• نظارت بر خود Self Supervision

• چکیده الگوریتم Word2Vec Word2Vec Algorithm Abstract

• Word2Vec: چرا نمونه گیری منفی Word2Vec: Why Negative Sampling

• Word2Vec: Skip Gram چیست Word2Vec: What is Skip Gram

• Word2Vec: چگونه قانون احتمال را تعریف کنیم Word2Vec: How to Define Probability Law

• Word2Vec Sigmoid Word2Vec Sigmoid

• تابع از دست دادن رسمی Word2Vec Word2Vec Formalizing Loss Function

• تابع از دست دادن Word2Vec Word2Vec Loss Function

• مرحله نزول گرادیان Word2Vec Word2Vec Gradient Descent Step

• Word2Vec پیاده سازی آماده سازی داده ها Word2Vec Implementation Preparing Data

• مرحله گرادیان پیاده سازی Word2Vec Word2Vec Implementation Gradient Step

• عملکرد درایور پیاده سازی Word2Vec Word2Vec Implementation Driver Function

نیاز به یادگیری عمیق برای NLP (NLP با یادگیری عمیق DNN) Need of Deep Learning for NLP (NLP with Deep Learning DNN)

• چرا RNN برای NLP؟ Why RNNs for NLP

• مقدمه نصب PyTorch و تنسورها PyTorch Installation and Tensors Introduction

• تمایز خودکار PyTorch Automatic Differentiation PyTorch

مقدمه (NLP با DNN یادگیری عمیق) Introduction (NLP with Deep Learning DNN)

• چرا DNN ها در یادگیری ماشینی Why DNNs in Machine Learning

• قدرت نمایندگی و ظرفیت استفاده از داده DNN Representational Power and Data Utilization Capacity of DNN

• پرسپترون Perceptron

• پیاده سازی پرسپترون Perceptron Implementation

• معماری DNN DNN Architecture

• پیاده سازی DNN Forwardstep DNN Forwardstep Implementation

• DNN چرا عملکرد فعال سازی مورد نیاز است DNN Why Activation Function is Required

• ویژگی های عملکرد فعال سازی DNN DNN Properties of Activation Function

• توابع فعال سازی DNN در PyTorch DNN Activation Functions in PyTorch

• DNN عملکرد ضرر چیست DNN What is Loss Function

• عملکرد از دست دادن DNN در PyTorch DNN Loss Function in PyTorch

آموزش (NLP با یادگیری عمیق DNN) Training (NLP with Deep Learning DNN)

• DNN Gradient Descent DNN Gradient Descent

• اجرای DNN Gradient Descent DNN Gradient Descent Implementation

• مینی بچ دسته ای تصادفی شیب دار DNN DNN Gradient Descent Stochastic Batch Minibatch

• خلاصه DNN Gradient Descent DNN Gradient Descent Summary

• مرحله گرادیان پیاده سازی DNN DNN Implementation Gradient Step

• پیاده‌سازی DNN نزولی گرادیان تصادفی DNN Implementation Stochastic Gradient Descent

• نزول گرادیان دسته ای پیاده سازی DNN DNN Implementation Batch Gradient Descent

• پیاده‌سازی DNN مینی‌بچ نزول گرادیان DNN Implementation Minibatch Gradient Descent

• پیاده سازی DNN در PyTorch DNN Implementation in PyTorch

فراپارامترها (NLP با یادگیری عمیق DNN) Hyperparameters (NLP with Deep Learning DNN)

• مقدار دهی اولیه وزن DNN DNN Weights Initializations

• نرخ یادگیری DNN DNN Learning Rate

• عادی سازی دسته ای DNN DNN Batch Normalization

• اجرای عادی سازی دسته ای DNN DNN Batch Normalization Implementation

• بهینه سازی DNN DNN Optimizations

• خروج DNN DNN Dropout

• DNN Dropout در PyTorch DNN Dropout in PyTorch

• توقف زودهنگام DNN DNN Early Stopping

• فراپارامترهای DNN DNN Hyperparameters

• مثال DNN PyTorch CIFAR10 DNN PyTorch CIFAR10 Example

مقدمه (NLP با یادگیری عمیق RNN) Introduction (NLP with Deep Learning RNN)

• RNN چیست؟ What is RNN

• درک RNN با یک مثال ساده Understanding RNN with a Simple Example

• برنامه های RNN تشخیص فعالیت انسانی RNN Applications Human Activity Recognition

• RNN برنامه های کاربردی شرح تصویر RNN Applications Image Captioning

• ترجمه ماشینی برنامه های کاربردی RNN RNN Applications Machine Translation

• برنامه های RNN پیش بینی قیمت سهام تشخیص گفتار RNN Applications Speech Recognition Stock Price Prediction

• مدل های RNN RNN Models

مدل‌سازی زبان پروژه کوچک (NLP با یادگیری عمیق RNN) Mini-Project Language Modelling (NLP with Deep Learning RNN)

• مدل سازی زبان پیش بینی کلمه بعدی Language Modeling Next Word Prediction

• مدل‌سازی زبان فهرست واژگان پیش‌بینی کلمه بعدی Language Modeling Next Word Prediction Vocabulary Index

• مدل سازی زبان بعدی پیش بینی واژگان گنجاندن فهرست Language Modeling Next Word Prediction Vocabulary Index Embeddings

• مدل سازی زبان بعدی پیش بینی کلمه معماری RNN Language Modeling Next Word Prediction RNN Architecture

• مدل سازی زبان پیش بینی کلمه بعدی پایتون 1 Language Modeling Next Word Prediction Python 1

• مدل سازی زبان بعدی پیش بینی کلمه پایتون 2 Language Modeling Next Word Prediction Python 2

• مدل سازی زبان بعدی پیش بینی کلمه پایتون 3 Language Modeling Next Word Prediction Python 3

• مدل سازی زبان بعدی پیش بینی کلمه پایتون 4 Language Modeling Next Word Prediction Python 4

• مدل سازی زبان بعدی پیش بینی کلمه پایتون 5 Language Modeling Next Word Prediction Python 5

• مدل سازی زبان بعدی پیش بینی کلمه پایتون 6 Language Modeling Next Word Prediction Python 6

طبقه‌بندی احساسات پروژه کوچک (NLP با RNN یادگیری عمیق) Mini-Project Sentiment Classification (NLP with Deep Learning RNN)

• پیاده سازی واژگان Vocabulary Implementation

• کمک های پیاده سازی واژگان Vocabulary Implementation Helpers

• پیاده سازی واژگان از فایل Vocabulary Implementation From File

• وکتورساز Vectorizer

• راه اندازی RNN RNN Setup

• راه اندازی RNN 1 RNN Setup 1

RNN در PyTorch (NLP با RNN یادگیری عمیق) RNN in PyTorch (NLP with Deep Learning RNN)

• RNN در PyTorch مقدمه RNN In PyTorch Introduction

• RNN در لایه جاسازی PyTorch RNN in PyTorch Embedding Layer

• RNN در PyTorch Nn Rnn RNN in PyTorch Nn Rnn

• RNN در اشکال خروجی PyTorch RNN in PyTorch Output Shapes

• RNN در PyTorch Gated Units RNN in PyTorch Gated Units

• RNN در PyTorch Gated Units GRU LSTM RNN in PyTorch Gated Units GRU LSTM

• RNN در PyTorch RNN دوطرفه RNN in PyTorch Bidirectional RNN

• RNN در اشکال خروجی RNN دو جهته PyTorch RNN in PyTorch Bidirectional RNN Output Shapes

• RNN در PyTorch دو جهته RNN خروجی اشکال جداسازی RNN in PyTorch Bidirectional RNN Output Shapes Separation

• RNN در مثال PyTorch RNN in PyTorch Example

مدل‌های پیشرفته RNN (NLP با RNN یادگیری عمیق) Advanced RNN Models (NLP with Deep Learning RNN)

• رمزگشای رمزگذار RNN RNN Encoder Decoder

• RNN توجه RNN Attention

ترجمه ماشین عصبی Neural Machine Translation

• مقدمه ای بر مجموعه داده ها و بسته ها Introduction to Dataset and Packages

• اجرای کلاس زبان Implementing Language Class

• آزمون کلاس زبان و اجرای نرمال سازی Testing Language Class and Implementing Normalization

• خواندن فایل داده Reading Datafile

• خواندن واژگان ساختمان Reading Building Vocabulary

• رمزگذار RNN EncoderRNN

• رمزگشا RNN DecoderRNN

• DecoderRNN گام رو به جلو DecoderRNN Forward Step

• توابع کمکی DecoderRNN DecoderRNN Helper Functions

• ماژول آموزشی Training Module

• نزول گرادیان تصادفی Stochastic Gradient Descent

• آموزش NMT NMT Training

• ارزیابی NMT NMT Evaluation