آموزش اصول امنیت مدل‌های زبانی بزرگ (LLM) و ۱۰ ریسک برتر OWASP - آخرین آپدیت

سرفصل ها و درس ها

مقدمه‌ای بر امنیت LLM و ۱۰ ریسک برتر OWASP Introduction to LLM Security and the OWASP Top 10

• معرفی دوره Course Introduction

• دانلود محتوای دوره Download Course Content

• مرور کلی ماژول اول Module One Overview

• ظهور LLMها و سطوح جدید حمله The Rise of LLMs and New Attack Surfaces

• ۱۰ ریسک برتر OWASP برای برنامه‌های LLM چیست؟ What Is the OWASP Top 10 for LLM Applications?

• اولویت‌بندی ریسک: شیوع، قابلیت بهره‌برداری و تأثیر Prioritizing Risk: Prevalence, Exploitability, and Impact

• چرخه توسعه امن (SDLC) برای برنامه‌های LLM Secure Development Lifecycle (SDLC) for LLM Applications

• راهکار تخته سفید: تحلیل و کاهش ریسک در برنامه‌های LLM شما Whiteboard Solution - Analyze and Mitigate Risk in Your LLM Applications

• خلاصه و مرور ماژول Module Review Summary

آسیب‌پذیری‌های حیاتی ورودی و خروجی The Critical Input and Output Vulnerabilities

• مرور کلی ماژول دوم Module Two Overview

• درک آسیب‌پذیری‌های ورودی و خروجی (I/O) Understanding I/O Vulnerabilities

• LLM01: تزریق پرامپت (ریسک شماره یک) LLM01: Prompt Injection (The #1 Risk)

• LLM05: مدیریت نادرست خروجی LLM05: Improper Output Handling

• LLM07: نشت پرامپت سیستم LLM07: System Prompt Leakage

• تخته سفید: سناریوی تزریق پرامپت Whiteboard - Prompt Injection Scenario

• خلاصه و مرور ماژول Module Review Summary

ریسک‌های داده، مدل و زنجیره تأمین Data, Model, and Supply Chain Risks

• مرور کلی ماژول سوم Module Three Overview

• درک ریسک‌های داده، مدل و زنجیره تأمین Understanding Data, Model, and Supply Chain Risks

• LLM02: افشای اطلاعات حساس LLM02: Sensitive Information Disclosure

• LLM04: مسمومیت داده‌ها و مدل LLM04: Data and Model Poisoning

• LLM03: آسیب‌پذیری‌های زنجیره تأمین LLM03: Supply Chain Vulnerabilities

• راهکار تخته سفید: زنجیره‌های تأمین Whiteboard Solution - Supply Chains

• خلاصه و مرور ماژول Module Review Summary

مسائل زمان اجرا، کنترل و عملیاتی Runtime, Control, and Operational Issues

• مرور کلی ماژول چهارم Module Four Overview

• درک مسائل زمان اجرا، کنترل و عملیاتی Understanding Runtime, Control, and Operational Issues

• LLM06: دسترسی بیش از حد (Excessive Agency) LLM06: Excessive Agency

• LLM09: اطلاعات نادرست و اتکای بیش از حد LLM09: Misinformation and Overreliance

• LLM10: مصرف نامحدود منابع LLM10: Unbounded Consumption

• LLM08: نقاط ضعف بردارها و Embeddingها LLM08: Vector and Embedding Weaknesses

• خلاصه و مرور ماژول Module Review Summary

مدیریت ریسک و امنیت عملیاتی Risk Management and Operational Security

• مرور کلی ماژول پنجم Module Five Overview

• دفاع در عمق Defense in Depth

• مدیریت ریسک Risk Management

• چرخه عمر هوش مصنوعی AI Lifecycle

• چرخه عمر AI طبق استاندارد NIST NIST AI Lifecycle

• تست امنیتی LLM LLM Security Testing

• امنیت عملیاتی برای AI/ML Operational Security for AI/ML

• آینده امنیت LLM و تهدیدات نوظهور The Future of LLM Security and Emerging Threats

• خلاصه و مرور ماژول Module Review Summary

• منابع و جمع‌بندی نهایی Resources and Closeout