آموزش ارزیابی و مقیاس‌بندی مدل‌های زبانی بزرگ (LLMs) - آخرین آپدیت

دانلود Evaluating and Scaling LLMs

نکته: ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره: انتقال یک برنامه مدل زبانی بزرگ (LLM) از مرحله نمونه اولیه به مرحله تولید، نیازمند کیفیت قابل اندازه‌گیری، انتخاب مدل مناسب برای هر وظیفه و عملیات قابل اعتماد در مقیاس وسیع است. این دوره به بررسی نحوه ارزیابی، بهینه‌سازی و مقیاس‌بندی سیستم‌های LLM می‌پردازد. شما از طریق دموهای عملی، بازیابی داده‌ها را با استفاده از re-ranking و جستجوی ترکیبی (hybrid search) بهبود می‌بخشید، خط لوله‌های RAG را با RAGAS امتیازدهی می‌کنید، مدل‌های متن‌باز را با استفاده از LoRA و QLoRA در Hugging Face تنظیم دقیق (Fine-tune) می‌کنید و یک API هوش مصنوعی مولد کانتینری را با FastAPI و Docker مستقر می‌کنید. در پایان این دوره، شما قادر خواهید بود: • خط لوله‌های RAG را با استفاده از معیارهای رتبه‌بندی و امتیازات وفاداری RAGAS ارزیابی کنید. • بازیابی را با re-ranking، HyDE، جستجوی ترکیبی و بازیاب‌های پیشرفته بهبود ببخشید. • مدل‌ها را بر اساس هزینه، تأخیر و کیفیت انتخاب کرده و آن‌ها را با LoRA تنظیم دقیق کنید. • ویژگی‌های چندوجهی (Multimodal) را با مدل‌های بینایی-زبان و مدل‌های گفتاری بسازید. • سرویس‌های GenAI را با FastAPI، Docker، سیستم‌های کشینگ و جایگزین‌های تامین‌کننده مستقر کنید. • سیستم‌های LLM را با استفاده از guardrails، تیم قرمز (red-teaming)، ردیابی و تشخیص رانش (drift detection) مدیریت کنید. این دوره برای مهندسان AI، مهندسان ML، توسعه‌دهندگان Backend و متخصصان MLOps که مسئول پیاده‌سازی ویژگی‌های LLM هستند، طراحی شده است. پیش از شروع، باید با ساخت برنامه‌های LLM با پایتون، APIها و RAG آشنا باشید. همین حالا ثبت‌نام کنید تا سیستم‌های LLM را با اطمینان ارزیابی، تنظیم دقیق و مقیاس‌بندی کنید.

سرفصل ها و درس ها

تکنیک‌های پیشرفته بازیابی و ارزیابی RAG Advanced Retrieval Techniques and RAG Evaluation

  • معرفی تخصص Specialization Introduction

  • معرفی دوره Course Introduction

  • تکنیک‌های پیشرفته بازیابی – چرا RAG پایه کافی نیست؟ Advanced Retrieval Techniques – Why Basic RAG Isn't Enough

  • رتبه‌بندی مجدد اسناد بازیابی شده با Cross Encoder Re-ranking Retrieved Documents with a Cross-Encoder

  • تبدیل‌های پرس‌وجو (Query Transformations) Query Transformations

  • بهبود درک پرس‌وجو و رتبه‌بندی Enhancing Query Understanding and Ranking

  • تبدیل پرس‌وجو – بازنویسی، پرس‌وجوی چندگانه و HyDE Query Transformation — Rewriting, Multi-Query, and HyDE

  • جستجوی ترکیبی (Hybrid Search) Hybrid Search

  • جستجوی ترکیبی – ترکیب بازیابی متراکم و کلیدواژه‌ای Hybrid Search — Combining Dense and Keyword Retrieval

  • بهبود بازیابی با اسناد والد و پرس‌وجوی خودکار Enhancing Retrieval with Parent Documents and Self-Querying

  • بازیاب اسناد والد و پرس‌وجوی خودکار Parent-Document and Self-Querying Retriever

  • ارزیابی سیستم‌های RAG: معیارهای بازیابی Evaluating RAG Systems: Retrieval Metrics

  • اندازه‌گیری کیفیت بازیابی با معیارهای رتبه‌بندی Measuring Retrieval Quality with Ranking Metrics

  • بنچ‌مارک عملکرد RAG Benchmarking RAG Performance

  • امتیازدهی به وفاداری و مرتبط بودن تولیدات با RAGAS Scoring Generation Faithfulness and Relevance with RAGAS

  • عیب‌یابی و بهبود یک خط لوله RAG ضعیف Diagnosing and Improving a Weak RAG Pipeline

  • پروژه نهایی – ساخت یک دستیار دانش مبتنی بر اسناد Capstone — Building a Document-Based Knowledge Assistant

انتخاب مدل و تنظیم دقیق با بهره‌وری پارامتری Model Selection and Parameter-Efficient Fine-Tuning

  • تنظیم دقیق، پرامپت‌نویسی یا RAG: راهنمای تصمیم‌گیری بصری Fine-Tuning, Prompting, or RAG: A Visual Decision Guide

  • بنچ‌مارک مدل‌های کاندید بر اساس هزینه، تأخیر و کیفیت Benchmarking Candidate Models on Cost, Latency, and Quality

  • آماده‌سازی مجموعه داده برای تنظیم دستورالعمل‌ها (Instruction Tuning) Preparing an Instruction-Tuning Dataset

  • تنظیم دقیق با بهره‌وری پارامتری: توضیح LoRA Parameter-Efficient Fine-Tuning: LoRA Explained

  • تنظیم دقیق با بهره‌وری پارامتری: توضیح QLoRA و آداپتورها Parameter-Efficient Fine-Tuning: QLoRA, and Adapters Explained

  • معرفی Transformers در Hugging Face Introduction to Hugging Face Transformers

  • تنظیم دقیق یک مدل با LoRA در Hugging Face Fine-Tuning a Model with LoRA on Hugging Face

  • تنظیم دقیق بهینه از نظر حافظه با QLoRA Memory-Efficient Fine-Tuning with QLoRA

  • افزودن و تعویض آداپتورهای وظیفه (Task Adapters) Adding and Swapping Task Adapters

  • معیارهای ارزیابی مدل: F1, BLEU, ROUGE Model Evaluation Metrics: F1, BLEU, ROUGE

  • ارزیابی کیفیت مدل قبل و بعد از تنظیم دقیق Evaluating Model Quality Before and After Fine-Tuning

سیستم‌های هوش مصنوعی مولد چندوجهی Multimodal Generative AI Systems

  • مدل‌های LLM چندوجهی: بررسی بصری Multimodal LLMs: A Visual Walkthrough

  • پرامپت‌ها برای تصاویر، کدها و اسناد Prompts for Images, Code, and Documents

  • تولید شرح تصویر با مدل بینایی-زبان Image Captioning with a Vision-Language Model

  • پاسخ به سوالات بصری روی تصاویر Visual Question Answering over Images

  • ادغام تبدیل گفتار به متن و متن به گفتار Integrating Speech-to-Text and Text-to-Speech

قابلیت اطمینان، سرویس‌دهی و استقرار Reliability, Serving, and Deployment

  • افزودن کشینگ، تلاش مجدد و جایگزین‌های تامین‌کننده Adding Caching, Retries, and Provider Fallbacks

  • ساخت API هوش مصنوعی مولد با FastAPI Building a GenAI API with FastAPI

  • کانتینری کردن برنامه GenAI با Docker Containerising a GenAI Application with Docker

  • استقرار کانتینر در فضای ابری Deploying the Container to the Cloud

عملیات LLMOps و ایمنی در محیط تولید LLMOps and Production Safety

  • LLMOps: مدیریت GenAI در محیط تولید LLMOps: Operating GenAI in Production

  • نسخه‌بندی پرامپت‌ها و خروجی‌ها و ردیابی آزمایش‌ها Versioning Prompts and Outputs and Tracking Experiments

  • افزودن گاردریل‌ها (Guardrails) به برنامه GenAI Adding Guardrails to a GenAI Application

  • تیم قرمز برای بررسی سمیت و توهمات مدل Red-Teaming for Toxicity and Hallucination

مشاهده‌پذیری، مانیتورینگ و پروژه نهایی تخصص Observability, Monitoring, and the Specialization Capstone

  • مشاهده‌پذیری برای GenAI: ردیابی، مانیتورینگ و تشخیص رانش Observability for GenAI: Tracing, Monitoring, and Drift Detection

  • ردیابی و مانیتورینگ یک برنامه GenAI مستقر شده Tracing and Monitoring a Deployed GenAI Application

  • تشخیص رانش مدل و داده‌ها در محیط تولید Detecting Model and Data Drift in Production

  • پروژه نهایی – یک برنامه GenAI جامع، مستقر شده و مانیتور شده Capstone — A Deployed, Monitored End-to-End GenAI Application

  • خلاصه دوره Course Summary

نمایش نظرات

آموزش ارزیابی و مقیاس‌بندی مدل‌های زبانی بزرگ (LLMs)
جزییات دوره
11h 18m
46
(آخرین آپدیت)
8
- از 5
دارد
دارد
دارد
Chris Croft
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Chris Croft Chris Croft

مربی مدیریت، سخنران، نویسنده