آموزش هوش مصنوعی مولد با مدل‌های زبانی بزرگ (LLM) - آخرین آپدیت

هفته اول Week 1

• معرفی دوره Course Introduction

• مقدمه هفته اول Introduction - Week 1

• هوش مصنوعی مولد و مدل‌های زبانی بزرگ (LLMs) Generative AI & LLMs

• موارد استفاده و وظایف LLM LLM use cases and tasks

• تولید متن پیش از ترنسفورمرها Text generation before transformers

• معماری ترنسفورمرها Transformers architecture

• تولید متن با ترنسفورمرها Generating text with transformers

• پرامپت‌نویسی و مهندسی پرامپت Prompting and prompt engineering

• پیکربندی‌های مولد Generative configuration

• چرخه حیات پروژه هوش مصنوعی مولد Generative AI project lifecycle

• آشنایی با آزمایشگاه‌های AWS Introduction to AWS labs

• راهنمای گام‌به‌گام آزمایشگاه اول Lab 1 walkthrough

• پیش‌آموزش مدل‌های زبانی بزرگ Pre-training large language models

• چالش‌های محاسباتی آموزش LLMها Computational challenges of training LLMs

• ویدیو اختیاری: استراتژی‌های محاسباتی کارآمد برای چند GPU Optional video: Efficient multi-GPU compute strategies

• قوانین مقیاس‌پذیری و مدل‌های بهینه محاسباتی Scaling laws and compute-optimal models

• پیش‌آموزش برای تطبیق دامنه (Domain Adaptation) Pre-training for domain adaptation

هفته دوم Week 2

• مقدمه هفته دوم Introduction - Week 2

• تنظیم دقیق دستورالعمل‌ها (Instruction Fine-tuning) Instruction fine-tuning

• تنظیم دقیق روی یک وظیفه واحد Fine-tuning on a single task

• تنظیم دقیق دستورالعمل‌ها برای وظایف چندگانه Multi-task instruction fine-tuning

• ارزیابی مدل Model evaluation

• بنچمارک‌ها Benchmarks

• تنظیم دقیق با بهره‌وری پارامتریک (PEFT) Parameter efficient fine-tuning (PEFT)

• تکنیک‌های PEFT ۱: LoRA PEFT techniques 1: LoRA

• تکنیک‌های PEFT ۲: Soft prompts PEFT techniques 2: Soft prompts

• راهنمای گام‌به‌گام آزمایشگاه دوم Lab 2 walkthrough

هفته سوم Week 3

• مقدمه هفته سوم Introduction - Week 3

• هم‌راستاسازی مدل‌ها با ارزش‌های انسانی Aligning models with human values

• یادگیری تقویت‌شده از بازخوردهای انسانی (RLHF) Reinforcement learning from human feedback (RLHF)

• RLHF: دریافت بازخورد از انسان‌ها RLHF: Obtaining feedback from humans

• RLHF: مدل پاداش RLHF: Reward model

• RLHF: تنظیم دقیق با یادگیری تقویت‌شده RLHF: Fine-tuning with reinforcement learning

• ویدیو اختیاری: بهینه‌سازی سیاست نزدیک (PPO) Optional video: Proximal policy optimization

• RLHF: هک کردن پاداش (Reward Hacking) RLHF: Reward hacking

• مقیاس‌پذیری بازخوردهای انسانی Scaling human feedback

• راهنمای گام‌به‌گام آزمایشگاه سوم Lab 3 walkthrough

• بهینه‌سازی‌های مدل برای استقرار Model optimizations for deployment

• برگه تقلب (Cheat Sheet) چرخه حیات پروژه هوش مصنوعی مولد Generative AI Project Lifecycle Cheat Sheet

• استفاده از LLM در برنامه‌های کاربردی Using the LLM in applications

• تعامل با برنامه‌های خارجی Interacting with external applications

• کمک به استدلال و برنامه‌ریزی LLMها با زنجیره افکار (Chain of Thought) Helping LLMs reason and plan with chain-of-thought

• مدل‌های زبانی کمک‌گرفته از برنامه (PAL) Program-aided language models (PAL)

• ReAct: ترکیب استدلال و اقدام ReAct: Combining reasoning and action

• معماری‌های کاربردی LLM LLM application architectures

• ویدیو اختیاری: AWS Sagemaker JumpStart Optional video: AWS Sagemaker JumpStart

• هوش مصنوعی مسئولانه (Responsible AI) Responsible AI

• جمع‌بندی دوره Course conclusion