آموزش یادگیری ماشین و امنیت هوش مصنوعی خطر: طبقه بندی حملات و حالت های شکست

معرفی Introduction

• نگرانی های امنیتی ماشین Machine learning security concerns

• آنچه شما باید بدانید What you should know

1. پایه های یادگیری ماشین 1. Machine Learning Foundations

• چگونه سیستم ها می توانند شکست بخورند و چگونه از آنها محافظت کنند How systems can fail and how to protect them

• چرا امنیت ML Why does ML security matter

• حملات در مقابل حالت های شکست ناخواسته Attacks vs. unintentional failure modes

• اهداف امنیتی برای ML: سیا Security goals for ML: CIA

• فصلنامه Chapter Quiz

2. حالت های نقص عمدی/حملات 2. Intentional Failure Modes/Attacks

• حملات متضاد و AUPS Perturbation attacks and AUPs

• حملات مسمومیت Poisoning attacks

• شبکه های عصبی برنامه ریزی مجدد Reprogramming neural nets

• دامنه فیزیکی (Objects offersarial 3D) Physical domain (3D adversarial objects)

• حملات زنجیره تامین Supply chain attacks

• معکوس مدل Model inversion

• دستکاری سیستم System manipulation

• استنتاج عضویت و سرقت مدل Membership inference and model stealing

• پشت سرپوشیده و سوء استفاده های موجود Backdoors and existing exploits

• فصلنامه Chapter Quiz

3. حالت های شکست ناخواسته/نقص طراحی ذاتی 3. Unintentional Failure Modes/Intrinsic Design Flaws

• هک کردن پاداش Reward hacking

• عوارض جانبی در یادگیری تقویت Side effects in reinforcement learning

• تغییرات توزیع و تست ناقص Distributional shifts and incomplete testing

• بیش از حد/لباس زیر Overfitting/underfitting

• ملاحظات تعصب داده ها Data bias considerations

• فصلنامه Chapter Quiz

4. ساختمان ML Resilient 4. Building Resilient ML

• تکنیک های موثر برای ایجاد انعطاف پذیری در ML Effective techniques for building resilience in ML

• ML DataSet Hygiene ML dataset hygiene

• آموزش ML Adversarial ML adversarial training

• کنترل دسترسی ML به APIs ML access control to APIs

• فصلنامه Chapter Quiz

نتیجه Conclusion

• مراحل بعدی Next steps