آموزش ریسک‌های امنیتی در هوش مصنوعی و یادگیری ماشین: دسته‌بندی حملات و حالت‌های شکست - آخرین آپدیت

مقدمه Introduction

• دغدغه‌های امنیتی در یادگیری ماشین Machine learning security concerns

1. مبانی هوش مصنوعی 1. AI Foundations

• چرا امنیت هوش مصنوعی اهمیت دارد Why AI security matters

• چگونه سیستم‌های هوش مصنوعی شکست می‌خورند و راه محافظت از آن‌ها How AI systems can fail and how to protect them

• اهداف امنیتی برای یادگیری ماشین: مثلث CIA Security goals for ML: CIA

• چارچوب‌های امنیتی یادگیری ماشین ML security frameworks

• حملات در مقابل حالت‌های شکست غیرعمدی Attacks vs. unintentional failure modes

2. حالت‌های شکست عمدی و حملات 2. Intentional Failure Modes and Attacks

• حملات زنجیره تأمین Supply chain attacks

• دستکاری سیستم System manipulation

• دامنه فیزیکی: اشیاء متخاصم سه بعدی Physical domain: 3D adversarial objects

• حملات مسموم‌سازی داده‌ها Poisoning attacks

• درهای پشتی (Backdoors) و اکسپلویت‌های موجود Backdoors and existing exploits

• معکوس‌سازی مدل Model inversion

• حملات اختلال و ورودی‌های مخرب Perturbation attacks and malicious input

• استنتاج عضویت و سرقت مدل Membership inference and model stealing

• برنامه‌ریزی مجدد (Reprogramming) Reprogramming

3. حالت‌های شکست غیرعمدی و نقص‌های ذاتی طراحی 3. Unintentional Failure Modes and Intrinsic Design Flaws

• تغییرات توزیعی و تست‌های ناقص Distributional shifts and incomplete testing

• عوارض جانبی و عدم هم‌راستایی Side effects and misalignment

• بیش‌برازش (Overfitting) و کم‌برازش (Underfitting) Overfitting and underfitting

• ملاحظات مربوط به سوگیری داده‌ها Data bias considerations

• هک پاداش (Reward Hacking) Reward hacking

4. ساخت هوش مصنوعی تاب‌آور 4. Building Resilient AI

• تکنیک‌های مؤثر برای ایجاد تاب‌آوری در هوش مصنوعی Effective techniques for building resilience in AI

• مدل تهدید مجموعه داده‌ها Dataset threat model

• زنجیره تأمین Supply chain

• تست‌های متخاصم و تیم قرمز (Red Teaming) Adversarial testing and red teaming

• دسترسی به API و اجزای پشتیبان API access and supporting components

• مدل‌سازی تهدیدات هوش مصنوعی Threat modeling AI

نتیجه‌گیری Conclusion

• گام‌های بعدی در مسیر امنیت هوش مصنوعی Next steps in your AI security journey