تسلط LLM: کد عملی، تراز و استاد LLM - آخرین آپدیت

سرفصل ها و درس ها

مقدمه ای بر هوش مصنوعی مولد Introduction to Generative AI

• به دوره خوش آمدید Welcome to the course

• چرا ما با معرفی مفاهیم هوش مصنوعی مولد شروع خواهیم کرد Why we will start by introducing Generative AI concepts

• معرفی خودم Introducing myself

• مدل سازی مولد، تکامل هوش مصنوعی مولد و بررسی اجمالی برنامه ها Generative modelling, Evolution of Generative AI and Overview of applications

• بلوک‌های سازنده خلاقیت ماشین: مبانی یادگیری ماشین برای نسل هوش مصنوعی Building Blocks of Machine Creativity: Machine Learning Foundations for Gen AI

• معماری تخیل ماشین، از GAN ها تا Diffusion و فراتر از آن Architectures of Machine Imagination, from GANs to Diffusion and beyond

• خلاقیت ماشینی با تأثیر دنیای واقعی روبرو می شود - کاربردهای هوش مصنوعی مولد Machine Creativity Meets Real-World Impact - Applications of Generative AI

• اخلاق خلاقیت ماشین: چالش ها و ملاحظات در هوش مصنوعی مولد The Ethics of Machine Creativity: Challenges and Considerations in Generative AI

• Worlds Reimagined: Visions of the Future با هوش مصنوعی Generative Worlds Reimagined: Visions of the Future with Generative AI

• خلاصه و افکار پایانی در مورد این معرفی GenAI Summary and closing thoughts about this intro of GenAI

• بررسی مسابقه Review Quiz

کدنویسی یک LLM کوچک از ابتدا، درک تمام مفاهیم کلیدی درگیر Coding a small LLM from scratch, understanding all the key concepts involved

• به این بخش خوش آمدید Welcome to this section

• کجا کدگذاری را انجام دهیم - مقدمه Where to do the coding - Intro

• کجا باید کدگذاری را انجام داد - جزئیات Where to do the coding - Details

• مقابله با چالش ها و یادآوری گزینه های کدگذاری Dealing with challenges, and reminder about coding options

• راه اندازی محیط کدنویسی Setting up the coding environment

• نوت بوک های Jupyter چگونه کار می کنند How Jupyter Notebooks work

• واردات کتابخانه های لازم Importing the necessary libraries

• راه اندازی فایل های پایه ما Setting up our base files

• تنظیم پارامترهای معماری Setting up the parameters of the architecture

• بررسی فراپارامترهای حیاتی Exploring the crucial hyperparameters

• پارامترهای کلیدی برای یک فرآیند آموزشی موثر Key parameters for an effective training process

• معرفی ورود به سیستم Introducing Logging

• راه اندازی ورود به سیستم Setting up logging

• راه اندازی توکن ساز و عملکردهای مرتبط Setting up the tokenizer and related functionality

• تقسیم داده های ما و ایجاد تابع دسته ای ما Splitting our data and creating our get batch function

• معماری ترانسفورماتور The Transformer Architecture

• اعلان لایه های بالای LLM Declaring the top layers of the LLM

• عملکرد رو به جلو LLM The forward function of the LLM

• از دست دادن آنتروپی متقاطع با Pytorch The Cross Entropy Loss with Pytorch

• Cross Entropy Loss به صورت دستی بازسازی شد The Cross Entropy Loss recreated manually

• از اطلاعات تا آنتروپی متقابل - شیرجه عمیق From Information to Cross-Entropy - Deep Dive

• تکمیل و تأیید از دست دادن آنتروپی متقاطع دستی Completing and verifying the manual cross entropy loss

• تولید نمونه های جدید - مقدمه Generating new samples - Intro

• ایجاد قابلیت برای تولید نمونه های جدید Creating the functionality to generate new samples

• تست عملکرد تولید نمونه Testing the sample generation functionality

• کدگذاری بلوک های معماری LLM Coding the blocks of the LLM architecture

• ارتباطات به علاوه محاسبات Communication plus Computation

• ارائه توان محاسباتی به LLM Providing computational power to the LLM

• مکانیسم توجه چند سر The Multi Head Attention Mechanism

• توجه تنها چیزی است که نیاز دارید Attention is all you need

• کدنویسی و درک سر توجه Coding and understanding the attention head

• درک توجه - شیرجه دستی عمیق Understanding attention - deep manual dive

• نمونه بررسی و رفع اشکال Review and debugging example

• ارزیابی عملکرد با دقت بیشتر Evaluating the performance with more precision

• راه اندازی Optimizer و Scheduler Setting up the Optimizer and Scheduler

• بارگیری نقاط بازرسی برای استنباط یا راه اندازی مجدد آموزش ها Loading checkpoints for Inference or to restart trainings

• بارگیری و آزمایش یک ایست بازرسی از پیش آموزش دیده Loading and testing a pre-trained checkpoint

• کدگذاری فرآیند یادگیری - مقدمه Coding the learning process - Intro

• حلقه آموزش The training loop

• آموزش LLM ما Training our LLM

• با در نظر گرفتن مقیاس LLM ما Keeping in mind the scale of our LLM

• آموزش توکن ساز Training the tokenizer

• کدگذاری مجموعه داده ما با توکنایزر Encoding our dataset with the tokenizer

• نتیجه گیری و آنچه در ادامه می آید Conclusions and what comes next

درک کد و مفاهیم یک LLM پیشرفته Understanding the code and concepts of an Advanced LLM

• به غواصی عمیق از طریق معماری پیشرفته LLM خوش آمدید Welcome to a deep dive through an advanced LLM architecture

• راه اندازی یک محیط جدید و میزبانی فایل های پشتیبانی Setting up a new environment and hosting the support files

• اعلان پارامترهای اصلی مدل Declaring the main parameters of the model

• ساختار اصلی و محاسبه تلفات Main structure and loss calculation

• تولید پیشرفته با استفاده از پارامترهای اضافی Advanced generation using extra parameters

• بلوک های اصلی معماری The main blocks of the architecture

• تجزیه و تحلیل لایه های محاسباتی LLM Analyzing the computational layers of the LLM

• اجرای توجه کارآمد، بخش 1 An efficient attention implementation, part 1

• اجرای توجه کارآمد، بخش 2 An efficient attention implementation, part 2

• کاوش تعبیه‌های موقعیتی چرخشی و سایر عملکردهای پشتیبانی Exploring rotary positional embeddings and other supporting functions

• تجزیه و تحلیل کد استنتاج Analyzing the inference code

• آماده شدن برای اجرای استنتاج بر روی ابر و به صورت محلی Preparing to run inference on the cloud and locally

• استنباط در مورد نسخه های غیر هم تراز و هم تراز مدل Inference on non-aligned vs aligned versions of the model

• تأملات بیشتر در مورد نتایج استنتاج Further reflections on the inference results

کدگذاری فرآیند هم ترازی از ابتدا، درک تمام مفاهیم کلیدی Coding an alignment process from scratch, understanding all the key concepts

• اهمیت همسویی The importance of alignment

• مجموعه داده های پیش آموزش و تراز The pretraining and alignment datasets

• واردات کتابخانه های لازم Importing the necessary libraries

• تنظیم پارامترها برای فرآیند هم ترازی Setting up the parameters for the alignment process

• راه اندازی قالب چت برای فرآیند توکن سازی Setting up the chat template for the tokenizing process

• در حال فیلتر کردن مجموعه داده تراز ما Filtering our alignment dataset

• پیش پردازش و توکن کردن مجموعه داده تراز Pre-processing and Tokenizing the alignment dataset

• اشکال زدایی و تکمیل عملکرد پیش پردازش Debugging and completing the pre-processing function

• تقسیم داده های تراز و ایجاد دیتالودرهای ما Splitting the alignment data and creating our dataloaders

• راه اندازی مدل و بهینه ساز برای فرآیند آموزش تراز Setting up the model and optimizer for the alignment training process

• تنظیم عملکرد زمانبندی ما Setting up our scheduler function

• کدگذاری حلقه آموزشی فرآیند هم ترازی Coding the training loop of the alignment process

• کدگذاری محاسبه تلفات تراز - قسمت 1 Coding the alignment loss calculation - part 1

• درک اینکه چگونه پاسخ‌های همسو را ترجیح می‌دهیم - Deep Dive Understanding how we will favor aligned responses - Deep Dive

• کدگذاری محاسبه ضرر تراز - قسمت 2 Coding the alignment loss calculation - part 2

• کدگذاری محاسبه تلفات تراز - قسمت 3 Coding the alignment loss calculation - part 3

• اضافه کردن ورود به سیستم، ذخیره ایست بازرسی و راه اندازی آموزش Adding logging, checkpoint saving and launching the training

• آموزش و آزمایش تراز، تجزیه و تحلیل و گسترش آمار Training and testing the alignment, analyzing and expanding the stats

• افزودن کد جدید برای محاسبه دقیق تر تلفات آموزشی و اعتبارسنجی Adding new code to calculate more precise training and validation losses

• مقایسه نمودارهای آموزشی و اعتبارسنجی - Deep Dive Comparing training and validation charts - Deep Dive

• جمع بندی تراز Alignment wrap-up

• مسیری به سوی همسویی The path towards alignment

• تبریک، خلاصه، و آنچه در ادامه است Congrats, summary, and what's next

Origami + AI: یادگیری بینش های کلیدی در مورد شبکه های عصبی و هوش مصنوعی با اوریگامی Origami + AI: Learning key insights about neural networks and AI with Origami

• به این سفر اصلی مبتنی بر اوریگامی به هسته هوش مصنوعی خوش آمدید Welcome to this original origami based journey to the core of AI

• در جستجوی نقشه های جادویی خلاقیت، با استفاده از اوریگامی! In Search of the Magical Mappings of Creativity, using Origami!

• جستجوی نقشه کامل: مجموعه داده ها و ابعاد The Search for the Perfect Mapping: datasets and dimensionality

• از خطی بودن تا پیچیدگی: شبکه های عصبی و غیرخطی های زندگی From Linearity to Complexity: Neural Networks and the Nonlinearities of Life

• خم کردن قوانین: تبدیل های غیر خطی و کلید پیچیدگی Bending the Rules: Non-Linear transformations and the key to complexity

• نه خیلی سفت، نه خیلی شل - پیدا کردن تناسب کامل Not Too Tight, Not Too Loose - Finding the perfect fit

• چگونه افزایش ابعاد بر پیچیدگی پنهان شبکه تأثیر می گذارد How increasing the dimensionality impacts the latent complexity of the network

• قدرت عمق: ایجاد نقشه‌های پیچیده با شبکه‌های هوش مصنوعی The Power of Depth: Creating Sophisticated Mappings with AI networks

• از منیفولدهای با ابعاد بالا گرفته تا فضاهای نهفته پویا و همیشه در حال تغییر From high dimensional manifolds to dynamic and ever changing latent spaces

• نمایش دیجیتالی پیشرفته از پیچیدگی پنهان شبکه های عصبی Advanced digital representations of the latent complexity of neural networks

• تجسم سفر: مناظر از دست دادن و جستجو برای وزن های بهینه Visualizing the Journey: Loss Landscapes and the Search for Optimal Weights

• مثالی از چشم انداز پویای ضرر یک شبکه متخاصم مولد Example of the dynamic Loss Landscape of a generative adversarial network

• لوسی - تجسم زمان واقعی تغییر وزن یک شبکه عصبی Lucy - Real Time Visualization of the changing weights of a neural network

• ترسیم اعماق پنهان: خلاصه ای از سفر فضایی نهفته دگرگون کننده ما Charting the hidden depths: a recap of our transformative latent space journey

• خلاصه قسمت های آخر Summary of the last sections

• بررسی مسابقه Review Quiz

فعال کردن مدل مولد ذهن خود Activating the Generative Model of your own mind

• معرفی سفر پایانی ما Introducing our final journey

• یک تجربه تجسم هدایت شده برای اعمال مدل مولد در ذهن شما A guided visualization experience to exercise the generative model in your head

• مقدمه سفر به مرکز نورون Intro to the journey to the center of the neuron

• ظرف، اقیانوس شور و 150000 ستون قشری The container, the salty ocean and the 150000 cortical columns

• تجسم نورون هرمی Visualizing the pyramidal neuron

• Synapse، تجسم رابط ورودی-خروجی The Synapse, visualizing the input-output interface

• نورون های بیولوژیکی در مقابل نورون های مصنوعی: ورودی ها، خروجی ها، سرعت و غیره Biological vs Artificial Neurons: Inputs, Outputs, Speed, etc

• یادگیری در نورون های بیولوژیکی و مصنوعی Learning in biological and artificial neurons

• برنامه ریزی، تصمیم گیری و مدل های جهانی Planning, decision making and world models

• کارایی: پراکندگی در شبکه های بیولوژیکی در مقابل شبکه های مصنوعی Efficiency: sparsity in biological vs artificial networks

• آگاهی: درون نورون ها Consciousness: within the neurons

• آینده، به سمت AGI/ASI The future, towards AGI / ASI

• نتیجه گیری و تبریک Conclusion and congratulations