آموزش XAI: هوش مصنوعی قابل توضیح - آخرین آپدیت

سرفصل ها و درس ها

مقدمه Introduction

• XAI: کلید هوش مصنوعی عادلانه و شفاف برای همه XAI: the key to fair and transparent AI for all

۱. درک چشم‌انداز هوش مصنوعی 1. Understanding the AI Landscape

• هوش مصنوعی مولد چگونه کار می‌کند How does generative AI work

• چالش‌های کاهش سوگیری Challenges of bias mitigation

• سوگیری در هوش مصنوعی و اثرات آن Bias in AI and its impact

۲. سوگیری در هوش مصنوعی مولد 2. Bias in GenAI

• دوره سریع مهندسی پرامپت Prompt engineering crash course

• سوگیری در مفروضات ریاضی Bias in mathetmical assumptions

• سوگیری در داده‌ها: ورود داده بد، خروجی بد Bias in data: "Bad data in, bad data out"

۳. سوگیری در آموزش مدل 3. Bias in Model Training

• مقدمه‌ای بر آموزش مدل‌های هوش مصنوعی مولد Introduction to GenAI model training

• معرفی HELM HELM

• تیم قرمز (Red Teaming) Red-teaming

• برابری دموگرافیک و کاربردهای آن Demographic parity and its applications

• برابری شانس‌های برابر برای مقایسه عملکرد زیرگروه‌ها Equalized odds parity to compare subgroup performance

• تمرین: ساخت یک خط لوله ارزیابی Exercise: Building an evaluation pipeline

• برابری فرصت‌های برابر برای ارزیابی عدالت Equal opportunity parity for evaluating fairness

۴. تحلیل‌های ضدواقعی در بررسی سوگیری 4. Counterfactuals in Bias Analysis

• مدل‌سازی ضدواقعی برای بهبود عدالت Counterfactual modeling for improved fairness

• کاربردهای ضدواقعی برای شفافیت Applications of counterfactuals for transparency

• تحلیل ضدواقعی چیست؟ What is a counterfactual?

• تمرین: ضدواقعی در TensorFlow Exercise: TensorFlow counterfactual

• مفهوم ضدواقعی و سناریوهای «چه می‌شد اگر» Concept of counterfactuals and what-if scenarios

۵. نمونه‌برداری داده‌ها برای کاهش سوگیری 5. Data Sampling for Bias Reduction

• مروری بر نمونه‌برداری طبقه‌بندی شده Overview of stratified sampling

• تست عملکرد مدل در نمونه‌های متنوع Testing model performance across diverse samples

• اعتبارسنجی و ارزیابی داده‌ها Data validation and evaluation

• نمونه‌برداری تصادفی در گروه‌های طبقه‌بندی شده Random sampling within stratified groups

• قدرت نمونه‌برداری داده‌ها The power of sampling data

• نمونه‌برداری بر اساس ویژگی‌های دموگرافیک Sampling based on demographics

• تمرین: طراحی معیارهای نمونه‌برداری با اصول RAI Exercise: Design sampling criteria with RAI principles

۶. محدودیت‌های مدل پس از آموزش 6. Post-Training Model Constraints

• استفاده از ابزارهای انسانی در چرخه (Human-in-the-loop) Using human-in-the-loop tools

• قدرت علامت‌گذاری، هرس کردن و هدایت (Nudging) Power of flagging, pruning, and nudging

• تمرین: خط لوله محدودیت مدل Exercise: Model constraint pipeline

• مقدمه‌ای بر محدودیت‌های مدل برای کنترل سوگیری Introduction to model constraints to control bias

۷. مطالعه موردی: تحلیل یک روایت هوش مصنوعی مولد 7. Case Study: Breakdown of a GenAI Story

• بررسی مثالی از خروجی هوش مصنوعی مولد Explore an example of GenAI output

جمع‌بندی Conclusion

• ادامه مسیر یادگیری XAI Continuing your XAI learning journey