آموزش استقرار امن هوش مصنوعی مولد و مدل‌های زبانی بزرگ (LLM) - آخرین آپدیت

سرفصل ها و درس ها

مقدمه Introduction

• آشنایی با استقرار امن هوش مصنوعی مولد و LLM Introduction to secure generative AI and LLM deployment

1. چرا استقرار امن هوش مصنوعی مولد و LLM اهمیت دارد 1. Why Secure Generative AI and LLM Deployment Matters

• ظهور مدل‌های داخلی ChatGPT The rise of internal ChatGPTs

• تغییر ماهیت ریسک‌های سازمانی The enterprise risk shift

2. معماری و مدل‌های استقرار 2. Architecture and Deployment Models

• ساخت در مقابل خرید در مقابل مدل ترکیبی Build vs. buy vs. hybrid

• نحوه ساخت LLMهای داخلی How internal LLMs are built

3. امنیت پرامپت و نرده‌های حفاظتی 3. Prompt Security and Guardrails

• تزریق پرامپت (Prompt Injection) چیست؟ What is prompt injection?

4. حفاظت از داده‌ها و کنترل دسترسی 4. Data Protection and Access Control

• امن‌سازی ورودی‌های حساس Securing sensitive inputs

5. نظارت، ثبت لاگ و شناسایی 5. Monitoring, Logging, and Detection

• قابلیت مشاهده‌پذیری برای LLMها Observability for LLMs

6. حاکمیت و انطباق 6. Governance and Compliance

• مستندسازی و مبانی AI SBOM Documentation and AI SBOM basics

• چارچوب‌های حیاتی (NIST AI RMF, ISO/IEC 42001, SOC 2) Frameworks that matter (NIST AI RMF, ISO/IEC 42001, SOC 2)

7. چک‌لیست استقرار امن 7. Secure Deployment Checklist

• دفاع‌های نسل جدید: نرده‌های حفاظتی خودکار و ایجنت‌های هوش مصنوعی Next-gen defenses: Autonomous guardrails and AI agents