آموزش راه حل های امنیت سایبری Genai

سرفصل ها و درس ها

مقدمه Introduction

• مقدمه Introduction

آشنایی با هوش مصنوعی و امنیت Introduction to Generative AI and Security

• AI مولد چیست What is Generative AI

• چرا تأمین هوش مصنوعی مولد مهم است Why Securing Generative AI is Important

منظره تهدید از AI مولد Threat Landscape of Generative AI

• تهدیدهای احتمالی در برنامه های Genai Potential Threats in GenAI Applications

• کاربردهای دستکاری شده از Genai Manipulative Uses of GenAI

درک مدل ها و ابزارهای هوش مصنوعی Understanding AI Models and Tools

• LLM چیست What is LLM

• مدل AI چیست What is an AI Model

• ایجاد یک حساب Portswigger برای دسترسی به آزمایشگاه Creating a PortSwigger Account for Lab Access

حملات تزریق سریع Prompt Injection Attacks

• تزریق سریع Prompt Injection

• مستقیم در مقابل تزریق سریع غیرمستقیم Direct vs. Indirect Prompt Injection

• تزریق سریع غیرمستقیم - نسخه ی نمایشی Indirect Prompt Injection - Demo

• تزریق سریع را متوقف کنید Stop Prompt Injection

رسیدگی به خروجی و آسیب پذیری Output Handling and Vulnerabilities

• رسیدگی به خروجی ناامن (تئوری) Insecure Output Handling (Theory)

• دست زدن به خروجی ناامن - نسخه ی نمایشی Insecure Output Handling - Demo

• رفع رسیدگی به خروجی ناامن Fixing Insecure Output Handling

آسیب پذیری های زنجیره ای تأمین Supply Chain Vulnerabilities

• آسیب پذیری های زنجیره ای تأمین Supply Chain Vulnerabilities

تهدیدهای امنیتی را مدل کنید Model Security Threats

• مدل انکار سرویس (DOS) Model Denial of Service (DoS)

• Stop Model Dos Attack Stop Model DoS Attack

• آموزش مسمومیت با داده ها Training Data Poisoning

• آموزش داده های مسمومیت داده ها Training Data Poisoning Countermeasures

محافظت از داده ها و خطرات افشای Data Protection and Disclosure Risks

• افشای اطلاعات حساس Sensitive Information Disclosure

• هنگامی که AI اسرار شما را می ریزد - مثالها When AI Spills Your Secrets – Examples

• اقدامات متقابل برای افشای داده های حساس Countermeasures for Sensitive Data Disclosure

افزونه و امنیت مدل پیشرفته Plugin and Advanced Model Security

• امنیت افزونه در LLM Plugin Security in LLM

• اقدامات ضد امنیت پلاگین Plugin Security Countermeasures

تهدیدهای پیشرفته و کاهش Advanced Threats and Mitigation

• نمایندگی بیش از حد Excessive Agency

• اقدامات متقابل آژانس بیش از حد Excessive Agency Countermeasures

• رکود بیش از حد Overreliance

سرقت و محافظت از مدل Model Theft and Protection

• سرقت مدل Model Theft

• اقدامات متقابل سرقت مدل Model Theft Countermeasures

پایان Conclusion

• در مورد گواهی شما About your certificate

• سخنرانی Bonus lecture