آموزش خطرات امنیتی در هوش مصنوعی و یادگیری ماشینی: دسته بندی حملات و حالت های شکست

معرفی Introduction

• نگرانی های امنیتی یادگیری ماشین Machine learning security concerns

• آنچه شما باید بدانید What you should know

1. مبانی یادگیری ماشین 1. Machine Learning Foundations

• چگونه سیستم ها می توانند شکست بخورند و چگونه از آنها محافظت کنیم How systems can fail and how to protect them

• چرا امنیت ML اهمیت دارد؟ Why does ML security matter

• حملات در مقابل حالت های شکست غیرعمدی Attacks vs. unintentional failure modes

• اهداف امنیتی برای ML: سیا Security goals for ML: CIA

• امتحان فصل Chapter Quiz

2. حالت های شکست عمدی/حملات 2. Intentional Failure Modes/Attacks

• حملات اغتشاش و AUP Perturbation attacks and AUPs

• حملات مسمومیت Poisoning attacks

• برنامه ریزی مجدد شبکه های عصبی Reprogramming neural nets

• دامنه فیزیکی (اشیاء متخاصم سه بعدی) Physical domain (3D adversarial objects)

• حملات زنجیره تامین Supply chain attacks

• وارونگی مدل Model inversion

• دستکاری سیستم System manipulation

• استنباط عضویت و سرقت مدل Membership inference and model stealing

• درهای پشتی و اکسپلویت های موجود Backdoors and existing exploits

• امتحان فصل Chapter Quiz

3. حالت های شکست غیر عمدی/اشکالات طراحی ذاتی 3. Unintentional Failure Modes/Intrinsic Design Flaws

• هک پاداش Reward hacking

• عوارض جانبی در یادگیری تقویتی Side effects in reinforcement learning

• تغییرات توزیع و آزمایش ناقص Distributional shifts and incomplete testing

• بیش از حد برازش/کم کردن Overfitting/underfitting

• ملاحظات سوگیری داده ها Data bias considerations

• امتحان فصل Chapter Quiz

4. Building Resilient ML 4. Building Resilient ML

• تکنیک های موثر برای ایجاد تاب آوری در ML Effective techniques for building resilience in ML

• بهداشت مجموعه داده ML ML dataset hygiene

• آموزش خصمانه ML ML adversarial training

• کنترل دسترسی ML به APIها ML access control to APIs

• امتحان فصل Chapter Quiz

نتیجه Conclusion

• مراحل بعدی Next steps