آموزش تزریق پرامپت در LLM: حملات و دفاع‌ها - آخرین آپدیت

سرفصل ها و درس ها

مقدمه‌ای بر امنیت و اعتماد در LLM Introduction to LLM Security and Trust

• مقدمه‌ای بر امنیت LLM LLM Security Intro

• اعتماد و ریسک Trust and Risk

• آسیب‌پذیری‌های LLM در دنیای واقعی Real-world LLM Vulnerabilities

تزریق پرامپت و جیل‌بریکینگ Prompt Injection and Jailbreaking

• درک مفهوم تزریق پرامپت Understanding Prompt Injection

• حملات تزریق پرامپت Prompt Injection Attacks

• پیامدهای تزریق پرامپت Prompt Injection Consequences

• دمو: نشت اسرار پرامپت Demo: Leaking Prompt Secrets

• دفاع در برابر تزریق Injection Defenses

سوءاستفاده از ابزارها و حملات SSRF Tool Misuse and SSRF Attacks

• سوءاستفاده از ابزارهای LLM LLM Tool Misuse

• دمو: اکسپلویت درخواست‌های ابزار Demo: Exploiting Tool Requests

• دفاع در برابر سوءاستفاده از ابزارهای LLM LLM Tool Defenses

مدیریت نادرست خروجی‌ها Improper Output Handling

• مدیریت خروجی LLM Handling LLM Output

• دمو: مدیریت خروجی LLM Demo: Handling LLM Output

مسموم‌سازی داده‌ها و مدل Data and Model Poisoning

• مسموم‌سازی LLM LLM Poisoning

• دمو: مسموم‌سازی داده‌ها Demo: Data Poisoning

• دمو: حملات Fine Tuning Demo: Fine Tuning Attacks

• دفاع در برابر مسموم‌سازی Poisoning Defenses

دسترسی‌های بیش از حد و اجرای کد Excessive Agency and Code Execution

• درک مفهوم دسترسی بیش از حد مدل Understanding Excess Model Agency

• دمو: دسترسی بیش از حد – اجرای کد از راه دور (RCE) Demo: Excessive Agency – Remote Code Execution

• محافظت از دسترسی‌های مدل Protecting Model Agency

• منابع مفید Useful Resources