آموزش امنیت محصولات هوش مصنوعی: پاسخگویی به حوادث - آخرین آپدیت

مقدمه Introduction

• سلب مسئولیت Disclaimer

• مدیریت حوادث هوش مصنوعی برای به حداقل رساندن خسارات Managing AI incidents to minimize damage

• آنچه باید بدانید What you should know

1. درک حوادث هوش مصنوعی 1. Understanding AI Incidents

• تعهدات گزارش‌دهی حوادث Incident reporting obligations

• آشنایی با حوادث امنیتی Introduction to Incidents

• مدل‌های ممنوعه هوش مصنوعی Prohibited AI models

• مدل‌های هوش مصنوعی با ریسک بالا High-risk AI models

• مطالعات موردی حوادث هوش مصنوعی AI incident case studies

2. برنامه‌ریزی برای وقوع حادثه 2. Planning for an Incident

• آماده‌سازی طرح پاسخگویی به حوادث Preparing the incident response plan

• آماده شدن برای وقوع حادثه Preparing for an incident

• ارزیابی تهدیدات Assessing the threats

• ارتقای مهارت‌ها با تمرینات شبیه‌سازی AI Upskilling with AI drills

• اجرای ارزیابی بلوغ پاسخگویی به حوادث AI Running an AI IR maturity assessment

• اجرای تمرین مدیریت بحران هوش مصنوعی Running an AI crisis exercise

3. شناسایی و ثبت مسائل هوش مصنوعی 3. Detect and Log AI Issues

• ثبت وقایع در LLM Guard Logging llm-guard

• سیستم تست برای ثبت وقایع هوش مصنوعی Test harness for AI logging

• شناسایی سمیت (Toxicity) Detecting toxicity

• چالش توهمات هوش مصنوعی (Hallucinations) The challenge of hallucinations

4. پاسخگویی به حوادث هوش مصنوعی 4. AI Incident Response

• مستندسازی پاسخگویی Documenting the response

• پاسخ به یک حادثه هوش مصنوعی Responding to an AI incident

5. ارتباطات در زمان حادثه 5. Incident Communications

• آشنایی با چارچوب نایت-نرس Introduction to the Knight-Nurse framework

• ملاحظات ویژه برای مدل‌های هوش مصنوعی Special considerations for AI models

• چه مواردی باید اطلاع‌رسانی شود What to communicate

• زمان و نحوه برقراری ارتباطات When and how to communicate

جمع‌بندی Conclusion

• گام‌های بعدی What's next