آموزش امنیت مدل‌های زبانی بزرگ (LLM): نحوه محافظت از سرمایه‌گذاری‌های هوش مصنوعی مولد - آخرین آپدیت

سرفصل ها و درس ها

مقدمه Introduction

• مقدمه: چشم‌انداز مدل‌های زبانی بزرگ Introduction: The LLM landscape

• آنچه باید بدانید What you should know

1. هوش مصنوعی مولد: فضای فعلی و پذیرش سازمانی 1. Generative AI: Current Context and Enterprise Adoption

• مرور کلی Overview

• امنیت سایبری و فضای هوش مصنوعی مولد Cybersecurity and generative AI context

• درباره امنیت و ایمنی هوش مصنوعی مولد About generative AI security and safety

• پرامپت به عنوان دروازه ورود به سیستم‌های LLM Prompting as the entry door to LLM systems

2. موضوعات امنیت و ایمنی هوش مصنوعی مولد 2. Generative AI Security and Safety Topics

• مرور کلی Overview

• انواع اصلی حملات به LLM Main types of LLM attacks

• چالش‌های کلی امنیت هوش مصنوعی General AI security challenges

• نقش LLMOps و تکنیک‌های نظارتی Role of LLMOps and monitoring techniques

3. رویکرد چندسطحی به امنیت و ایمنی LLM 3. Multilevel Approach to LLM Security and Safety

• مرور کلی Overview

• زمینه: مقررات و استانداردها Contextual: Regulations and standards

• انسانی: پرسوناها و بهترین روش‌ها Human: Personas and best practices

• فنی: اقدامات متقابل در زیرساخت، LLM و کد Technical: Infra, LLM, and code countermeasures

4. مورد عملی: بحران امنیتی LLM در Red30 4. Practical Case: LLM Security Crisis at Red30

• مقدمه: Red30 و استفاده از فناوری‌های هوش مصنوعی مولد Introduction: Red30 and use of generative AI technologies

• مرور کلی Overview

• راهکار: چک‌لیست با دید ۳۶۰ درجه Solution: Checklist with 360 aspects

• چالش: تحلیل ریسک‌های کلیدی برای Red30 Challenge: Analyze the key risks for Red30

جمع‌بندی Conclusion

• گام‌های بعدی در مسیر امنیت هوش مصنوعی مولد Next steps for your generative AI security journey