ترنسفورمرهای پیش‌آموزش‌دیده مولد (GPT) - آخرین آپدیت

مدل‌سازی زبانی Language Modeling

• معرفی دوره و مدرس Course and Instructor Introductions

• مدل زبانی چیست؟ What is a Language Model?

• مدل‌های زبانی N-gram N-gram Language Models

• ارزیابی مدل‌های زبانی Evaluating Language Models

• تولید متن Generating Text

• جمع‌بندی فصل Summary of Module

ترنسفورمرها و GPT Transformers and GPT

• مقدمه هفته Introduction to Week

• نمایش متن با بردارهای عددی Representing text with numerical vectors​

• کلمات، توکن‌ها یا زیرتوکن‌ها Words, tokens or sub-tokens​

• مدل‌های زبانی عصبی Neural language models

• معماری ترنسفورمر The Transformer architecture

• ترنسفورمرها چگونه آموزش می‌بینند؟ How are Transformers trained?

• مدل‌های GPT و BERT GPT and BERT

• استفاده از GPT Using GPT

• چالش‌های اخلاقی مدل‌های زبانی بزرگ The ethical challenges of large language models

• جمع‌بندی فصل Wrap-up of the module

کاربردها و پیامدها Applications and Implications

• مقدمه فصل Introduction to the Module

• توهمات در مدل‌های زبانی بزرگ (LLMs) Hallucinations in LLMs

• چت‌بات‌ها، RLHF و ChatGPT Chatbots, RLHF, and ChatGPT

• رفتار و اخلاق آکادمیک Academic conduct

• خلاقیت و حق چاپ (کپی‌رایت) Creativity and copyright

• مقررات و ریسک‌ها Regulation and risks

• مرور کلی دوره Course Recap