آموزش راهنمای پیشرفته ChatGPT، جاسازی‌ها و دیگر مدل‌های زبان بزرگ (LLM)

سرفصل ها و درس ها

مقدمه Introduction

• راهنمای سریع مدل های زبان بزرگ: مقدمه Quick guide to large language models: Introduction

1. مروری بر مدل‌های زبان بزرگ (LLM) 1. Overview of Large Language Models (LLMs)

• کاربردهای LLM Applications of LLMs

• ماژول 1: مقدمه ای بر مدل های زبان بزرگ Module 1: Introduction to large language models

• موضوعات Topics

• مدل های زبان چیست؟ What are language models?

• LLM های مدرن محبوب Popular modern LLMs

2. جستجوی معنایی با LLM 2. Semantic Search with LLMs

• موضوعات Topics

• مقدمه ای بر جستجوی معنایی Introduction to semantic search

• ساختن یک سیستم جستجوی معنایی Building a semantic search system

• بهینه سازی جستجوی معنایی با رمزگذارهای متقابل و تنظیم دقیق Optimizing semantic search with cross-encoders and fine-tuning

3. مراحل اول با مهندسی سریع 3. First Steps with Prompt Engineering

• کار با دستورات در بین مدل ها Working with prompts across models

• ساخت یک ربات نسل افزوده بازیابی با ChatGPT و GPT-4o Building a retrieval-augmented generation bot with ChatGPT and GPT-4o

• موضوعات Topics

• مقدمه ای بر مهندسی سریع Introduction to prompt engineering

4. Retrieval-Augmented Generation و AI Agents 4. Retrieval-Augmented Generation and AI Agents

• گسترش به عوامل هوش مصنوعی Expanding into AI agents

• ساخت ربات RAG Building a RAG bot

• استفاده از مدل های منبع باز با RAG Using open-source models with RAG

• مقدمه ای بر نسل افزوده بازیابی (RAG) Introduction to retrieval-augmented generation (RAG)

• موضوعات Topics

5. بهینه سازی LLM با تنظیم دقیق 5. Optimizing LLMs with Fine-Tuning

• مطالعه موردی: پیش بینی با بررسی های آمازون: قسمت 2 Case Study: Predicting with Amazon Reviews: Part 2

• آموزش انتقالی: پرایمر Transfer learning: A primer

• ماژول 2: بهترین بهره را از معرفی LLM ببرید Module 2: Getting the most out of LLMs introduction

• API تنظیم دقیق OpenAI The OpenAI fine-tuning API

• مطالعه موردی: پیش بینی با بررسی های آمازون: قسمت 1 Case Study: Predicting with Amazon Reviews: Part 1

• موضوعات Topics

6. مهندسی سریع پیشرفته 6. Advanced Prompt Engineering

• اعتبار سنجی ورودی/خروجی Input/output validation

• موضوعات Topics

• جلوگیری از حملات تزریق سریع Preventing prompt injection attacks

• تحریک زنجیره ای از فکر Chain-of-thought prompting

• درخواست دسته‌ای و زنجیره‌سازی سریع Batch prompting and prompt chaining

• ارزیابی سطح دانش رمزگذاری شده LLM Assessing an LLM's encoded knowledge level

7. سفارشی سازی جاسازی ها و معماری های مدل 7. Customizing Embeddings and Model Architectures

• تنظیم دقیق یک مدل تعبیه شده برای ثبت رفتار کاربر Fine-tuning an embedding model to capture user behavior

• موضوعات Topics

• مطالعه موردی: ساخت یک سیستم توصیه انیمیشن Case study: Building an anime recommendation system

• استفاده از مدل های تعبیه شده OpenAI Using OpenAI’s embedding models

8. AI Alignment: First Principles 8. AI Alignment: First Principles

• مقدمه ای بر هم ترازی هوش مصنوعی Introduction to AI alignment

• ارزیابی همسویی به همراه اخلاق Evaluating alignment plus ethics

• موضوعات Topics

9. حرکت فراتر از مدل های پایه 9. Moving Beyond Foundation Models

• مطالعه موردی: ویژوال QA - تنظیم پارامترها و داده ها Case study: Visual QA—Setting up parameters and data

• مقدمه ای بر یادگیری تقویتی از بازخورد Introduction to reinforcement learning from feedback

• ماژول 3: معرفی استفاده از LLM پیشرفته Module 3: Advanced LLM usage introduction

• موضوعات Topics

• استفاده از توجه متقاطع برای ترکیب روش های داده Using cross attention to mix data modalities

• ترانسفورماتور بینایی The vision transformer

• همراستایی FLAN-T5 با یادگیری تقویتی از بازخورد Aligning FLAN-T5 with reinforcement learning from feedback

• مطالعه موردی: کیفیت تصویری - تنظیم یک مدل Case study: Visual QA—Setting up a model

10. تنظیم دقیق LLM منبع باز پیشرفته 10. Advanced Open-Source LLM Fine-Tuning

• تراز دستورالعمل های LLM: RLHF Instruction alignment of LLMs: RLHF

• BERT برای طبقه بندی چند برچسبی: قسمت 1 BERT for multilabel classification: Part 1

• همسویی دستورالعمل های LLM: مدل سازی پاداش Instruction alignment of LLMs: Reward modeling

• مطالعه موردی: تلاش سینان برای پاسخ‌های عاقلانه و در عین حال جذاب - ساویر Case study: Sinan’s attempt at wise yet engaging responses—SAWYER

• نوشتن LaTeX با GPT-2 Writing LaTeX with GPT-2

• تراز دستورالعمل های LLM: تنظیم دقیق نظارت شده Instruction alignment of LLMs: Supervised fine-tuning

• BERT برای طبقه بندی چند برچسبی: قسمت 2 BERT for multilabel classification: Part 2

• موضوعات Topics

• تراز دستورالعمل های LLM: استفاده از یک LLM تراز شده با دستورالعمل Instruction alignment of LLMs: Using an instruction-aligned LLM

11. انتقال LLMها به سمت تولید 11. Moving LLMs into Production

• تقطیر دانش Knowledge distillation

• پیش بینی هزینه و استقرار LLM ها در تولید Cost projecting and deploying LLMs to production

• موضوعات Topics

12. ارزیابی های LLM 12. LLM Evaluations

• موضوعات Topics

• پروب LLM برای مدل جهانی Probing LLMs for world model

• ارزیابی وظایف درک Evaluating understanding tasks

• ارزیابی وظایف مولد: بخش 1 Evaluating generative tasks: Part 1

• ارزیابی وظایف مولد: بخش 2 Evaluating generative tasks: Part 2

نتیجه گیری Conclusion

• بررسی سریع به مدل های زبان بزرگ: خلاصه Quick quide to large language models: Summary