آموزش مدل‌های زبانی بزرگ (LLMs) با پایتون و LangChain - آخرین آپدیت

سرفصل ها و درس ها

مقدمه Introduction

• مقدمه Introduction

تکامل پردازش زبان طبیعی (NLP) Evolution of Natural Language Processing

• تکامل پردازش زبان طبیعی Evolution of natural language processing

ترنسفورمرها Transformers

• مروری بر ترنسفورمرها Transformers overview

• درک جاسازی کلمات (بخش اول) Understanding word embeddings I

• درک جاسازی کلمات (بخش دوم) Understanding word embeddings II

• توکنایزیشن و جاسازی کلمات Tokenization and word embeddings

• درک کدگذاری موقعیتی Understanding positional encoding

• مکانیزم خود-توجهی (بخش اول) The self-attention mechanism I

• مکانیزم خود-توجهی (بخش دوم) The self-attention mechanism II

• ماسکینگ چیست؟ What is masking?

• معماری چند-سره Multi-head architecture

• لایه شبکه عصبی The neural network layer

• درک نحوه آموزش ترنسفورمرها Understanding the training of transformers

• معماری‌های فقط-رمزگشا (GPT یا LLaMA) Decoder only architectures (GPT or LLaMA)

• معماری‌های فقط-رمزگذار (BERT) Encoder only architectures (BERT)

• معماری‌های رمزگذار-رمزگشا (ترجمه گوگل) Encoder-decoder architectures (Google Translator)

• فرمول‌بندی ریاضی ترنسفورمرها Mathematical formulation of transformers

• کوییز ترنسفورمرها Transformers Quiz

معماری‌های فقط-رمزگذار و بررسی معماری BERT Encoder-Only Architectures - BERT Artchitecture Overview

• مدل BERT چیست؟ What is BERT?

• مبانی معماری BERT Fundamentals of BERT architecture

• درک توکن [CLS] Understanding the [CLS] token

• پیش‌آموزش مدل: ماسکینگ Pre-training the model - masking

• پیش‌آموزش مدل: پیش‌بینی جمله Pre-training the model - sentence prediction

• تنظیم دقیق برای طبقه‌بندی متن و تحلیل احساسات Fine tuning for text classification and sentiment analysis

• تنظیم دقیق برای پاسخ به سوالات Fine tuning for question answering

• مقایسه BERT و RoBERTa BERT and RoBERTa

• بررسی مقاله پژوهشی اصلی Original academic research article

• کوییز BERT BERT Quiz

پیاده‌سازی تحلیل احساسات Sentiment Analysis Implementation

• پیاده‌سازی تحلیل احساسات (بخش اول) Sentiment analysis implementation I

• پیاده‌سازی تحلیل احساسات (بخش دوم) Sentiment analysis implementation II

• پیاده‌سازی تحلیل احساسات (بخش سوم) Sentiment analysis implementation III

• پیاده‌سازی تحلیل احساسات (بخش چهارم) Sentiment analysis implementation IV

• پیاده‌سازی تحلیل احساسات (بخش پنجم) Sentiment analysis implementation V

• تنظیم هایپرپارامترهای مدل Tuning the hyperparameters of the model

پیاده‌سازی طبقه‌بندی متن Text Classification Implementation

• پیاده‌سازی طبقه‌بندی متن (بخش اول) Text classification implementation I

• پیاده‌سازی طبقه‌بندی متن (بخش دوم) Text classification implementation II

• استفاده از هد (Head) داخلی معماری Using the built-in head of the architecture

پیاده‌سازی سیستم پاسخ به سوالات Implementation of Question Answering

• پیاده‌سازی پاسخ به سوالات (بخش اول) Question answering implementation I

• پیاده‌سازی پاسخ به سوالات (بخش دوم) Question answering implementation II

• پیاده‌سازی پاسخ به سوالات (بخش سوم) Question answering implementation III

• پیاده‌سازی پاسخ به سوالات (بخش چهارم) Question answering implementation IV

• پیاده‌سازی پاسخ به سوالات (بخش پنجم) Question answering implementation V

• پیاده‌سازی پاسخ به سوالات (بخش ششم) Question answering implementation VI

معماری‌های ترنسفورمر فقط-رمزگشا (GPT و LLaMA) Decoder-Only Transformer Architectures - GPT, LLaMA

• مروری دوباره بر معماری‌های ترنسفورمر فقط-رمزگشا Revisiting decoder-only transformer architectures

• یادگیری انتقالی و تنظیم دقیق مدل‌ها Transfer learning and fine-tuning models

• یادگیری تقویت‌شده از بازخورد انسانی (RLHF) Reinforcement Learning from Human Feedback (RLHF)

• درک GPT، LLaMA، Alpaca و DeepSeek Understanding GPT, LLaMA and Alpaca, DeepSeek

• کوییز معماری فقط-رمزگشا Decoder-Only Architecture Quiz

تنظیم دقیق مدل‌های زبانی بزرگ (LLMs) Fine-Tuning Large Language Models (LLMs)

• درک تطبیق رتبه پایین یا LoRA (بخش اول) Understanding low-rank adaptation (LoRA) I

• درک تطبیق رتبه پایین یا LoRA (بخش دوم) Understanding low-rank adaptation (LoRA) II

• مدل QLoRA (تطبیق رتبه پایین کوانتیزه شده) QLoRA (Quantized Low-Rank Adaptation)

• بررسی مقاله پژوهشی اصلی Original academic research article

• کوییز تنظیم دقیق مدل‌های زبانی بزرگ Fine-Tuning Large Language Models Quiz

کار با GPT و LLaMA Using GPT and LLaMA

• استفاده از مدل GPT-2 (بخش اول) Using GPT-2 model I

• استفاده از مدل GPT-2 (بخش دوم) Using GPT-2 model II

• استفاده از مدل GPT-2 (بخش سوم) Using GPT-2 model III

• استفاده از مدل GPT-2 (بخش چهارم) Using GPT-2 model IV

• استفاده از مدل LLaMA Using LLaMA model

تنظیم دقیق مدل‌های LLM روی مجموعه‌داده‌های سفارشی Fine-Tuning LLM Models on Custom Dataset

• استفاده از GPT روی مجموعه‌داده سفارشی (بخش اول) Using GPT on a custom dataset I

• استفاده از GPT روی مجموعه‌داده سفارشی (بخش دوم) Using GPT on a custom dataset II

• استفاده از GPT روی مجموعه‌داده سفارشی (بخش سوم) Using GPT on a custom dataset III

• استفاده از GPT روی مجموعه‌داده سفارشی (بخش چهارم) Using GPT on a custom dataset IV

• پیاده‌سازی تنظیم دقیق با LoRA (بخش اول) Fine-tuning with LoRA implementation I

• پیاده‌سازی تنظیم دقیق با LoRA (بخش دوم) Fine-tuning with LoRA implementation II

تولید تقویت‌شده با بازیابی (RAG) Retrieval-Augmented Generation (RAG)

• تولید تقویت‌شده با بازیابی (RAG) چیست؟ What is retrieval-augmented generation (RAG)?

• درک مکانیزم RAG Understanding retrieval-augmented generation (RAG)

• پایگاه‌های داده برداری و جستجوی معنایی Vector databases and semantic search

• الگوریتم‌های یافتن جاسازی‌های مشابه (LSH) Algorithms for finding similar embeddings (LSH)

• الگوریتم‌های یافتن جاسازی‌های مشابه (HNSW) Algorithms for finding similar embeddings (HNSW)

• بررسی مقاله پژوهشی اصلی Original academic research article

• کوییز RAG RAG Quiz

پیاده‌سازی RAG با استفاده از LangChain Retrieval-Augmented Generation (RAG) with LangChain

• پیاده‌سازی RAG (بخش اول) RAG implementation I

• پیاده‌سازی RAG (بخش دوم) RAG implementation II

• پیاده‌سازی RAG (بخش سوم) RAG implementation III

• پیاده‌سازی RAG (بخش چهارم) RAG implementation IV

مهندسی پرامپت Prompt Engineering

• مهندسی پرامپت چیست؟ What is prompt engineering?

• پرامپت‌نویسی Zero-shot Zero-shot prompting

• پرامپت‌نویسی Few-shot Few-shot prompting

• پرامپت‌نویسی زنجیره افکار (CoT) Chain-of-thought (CoT) prompting

• کوییز مهندسی پرامپت Prompt Engineering Quiz

ضمیمه ۱: شبکه‌های عصبی عمیق (DNNs) Appendix #1 - Deep Neural Networks (DNNs)

• شبکه‌های عصبی عمیق چیستند؟ What are deep neural networks?

• مشکل محوشدگی و انفجار گرادیان Vanishing and exploding gradients problem

• توابع فعال‌ساز و مقداردهی اولیه وزن‌ها Activation functions and weight initializations

• تابع فعال‌ساز Softmax Softmax activation function

• مروری دوباره بر توابع زیان (Loss Functions) Loss functions revisited

• گرادیان نزولی و گرادیان نزولی تصادفی (SGD) Gradient descent and stochastic gradient descent

• نرمال‌سازی، بچ‌ها و اپوک‌ها Normalization, batches and epochs

• منظم‌سازی (Regularization) Regularization

ضمیمه ۲: شبکه‌های عصبی بازگشتی (RNNs) Appendix #2 - Recurrent Neural Networks (RNNs)

• چرا شبکه‌های عصبی بازگشتی اهمیت دارند؟ Why do recurrent neural networks are important?

• مبانی شبکه‌های عصبی بازگشتی (RNN) Recurrent neural networks basics

• الگوریتم پس‌انتشار در زمان (BPTT) The backpropagation through time (BPTT) algorithm

• مشکل محوشدگی و انفجار گرادیان Vanishing and exploding gradients problem

• تئوری مدل حافظه طولانی کوتاه‌مدت LSTM (بخش اول) Long-short term memory (LSTM) model theory I

• تئوری مدل حافظه طولانی کوتاه‌مدت LSTM (بخش دوم) Long-short term memory (LSTM) model theory II

• مثال گذر پیشرو در LSTM Long-short term memory (LSTM) forward pass example

• مثال پس‌انتشار در LSTM Long-short term memory (LSTM) backpropagation example

• واحدهای بازگشتی دریچه‌ای (GRUs) Gated recurrent units (GRUs)

منابع و مطالب دوره COURSE MATERIALS

• دانلود سورس کد Download source code