آموزش هوش مصنوعی تفسیرپذیر: آشنایی عملی و کاربردی - آخرین آپدیت

سرفصل ها و درس ها

مقدمه Introduction

• نگاهی به ساختار داخلی هوش مصنوعی تفسیرپذیر Under the hood of interpretable AI

1. تفسیرپذیری: یک ابزار، نه یک قانون 1. Interpretability: A Tool, Not a Rule

• آیا تفسیرپذیری هوش مصنوعی برای شما اهمیت دارد؟ Should you care about AI interpretability?

2. بصری‌سازی نقشه‌های توجه 2. Visualizing Attention Maps

• رمزگشایی نقشه‌های توجه: از تنظیمات تا بارگذاری مدل Unlocking attention maps: From setup to model loading

• بصری‌سازی نقشه‌های توجه، بخش اول Visualizing attention maps, part 1

• بصری‌سازی نقشه‌های توجه، بخش دوم Visualizing attention maps, part 2

3. پنج مرحله اتوانکودرهای پراکنده (SAE) 3. The Five Courses of Sparse Autoencoders (SAE)

• چالش: آموزش یک SAE Challenge: Train a SAE

• توقف کوتاه: تایید صحت و سلامت SAE Palate cleanser: Verify SAE correctness and health

• چالش: یافتن یک مفهوم پنهان Challenge: Find a hidden concept

• بخش اصلی: آموزش SAE Main course: Training SAE

• راه حل: یافتن یک مفهوم پنهان Solution: Find a hidden concept

• پیش‌غذا: تنظیم محیط و بارگذاری مدل Amuse-bouche: Environment setup and model loading

• استاد تفسیرپذیری: SAE The star chef of interpretability: SAE

• دسر: شناسایی ویژگی‌های جالب با استفاده از SAE Dessert: Identifying interesting features using SAE

• مقدمات: بارگذاری داده‌ها، آموزش و استخراج Appetizer: Data loading training and extracting

4. بردارهای هدایت‌کننده 4. Steering Vectors

• دمو: تجربه کار با بردارهای هدایت‌کننده Demo: Fun with steering vectors

• راه حل: تاثیرگذاری بر رفتار مدل با بردارهای هدایت‌کننده Solution: Influence model behavior using steering vectors

• چالش: تاثیرگذاری بر رفتار مدل با بردارهای هدایت‌کننده Challenge: Influence model behavior using steering vectors

• دمو: تنظیم و آموزش بردارهای هدایت‌کننده Demo: Setting up and training steering vectors

• استفاده از بردارهای هدایت‌کننده روی مدل‌ها Using steering vectors on models

جمع‌بندی Conclusion