آموزش هوش مصنوعی مولد - مسترکلاس خطر و امنیت سایبری 2023

سرفصل ها و درس ها

معرفی Introduction

• معرفی Introduction

• هوش مصنوعی Generative چیست؟ What is Generative AI

• مدل های زبان بزرگ چیست؟ What are Large Language Models

خطرات در هوش مصنوعی مولد Risks in Generative AI

• خطرات مولد هوش مصنوعی Generative AI Risks

• حریم خصوصی و محرمانه بودن داده ها Data Privacy and Confidentiality

• نقض ارائه دهنده GenAI GenAI Provider Breach

• تکامل بازیگران تهدید Evolution of Threat Actors

• نشت داده ها Data Leakage

• تزریقات سریع Prompt Injections

• تزریق سریع غیر مستقیم Indirect Prompt Injections

• Sandboxing ناکافی Inadequate Sandboxing

• توهمات Hallucinations

• جعل درخواست سمت سرور (SSRF) Server Side Request Forgery (SSRF)

• حملات DDOS DDOS attacks

• مسمومیت داده ها Data Poisoning

• تعصب مدل Model Bias

• نقض حق چاپ Copyright Violations

چگونه هوش مصنوعی مولد را ایمن کنیم How to Secure Generative AI

• چگونه هوش مصنوعی مولد را ایمن کنیم How to Secure Generative AI

• مدل سازی تهدید و امنیت GenAI Threat Modeling and GenAI security

مراحل بعدی Next Steps

• مراحل بعدی Next Steps