آموزش حریم خصوصی داده‌ها و استفاده ایمن از هوش مصنوعی مولد برای توسعه‌دهندگان - آخرین آپدیت

سرفصل ها و درس ها

درک OWASP Top 10 برای مدل‌های زبانی بزرگ Understanding OWASP Top 10 for LLMs

• لیست OWASP Top 10 برای LLMها OWASP Top 10 for LLMs

• تزریق دستورات (Prompt Injection) Prompt Injection

• افشای اطلاعات حساس Sensitive Information Disclosure

• امنیت زنجیره تأمین Supply Chain

• مسموم‌سازی داده‌ها و مدل Data and Model Poisoning

• مدیریت نادرست خروجی‌ها Improper Output Handling

• دسترسی‌های بیش از حد (Excessive Agency) Excessive Agency

• نشت دستورات سیستمی System Prompt Leakage

• نقاط ضعف برداری و جاسازی (Embedding) Vector and Embedding Weaknesses

• اطلاعات نادرست Misinformation

• مصرف نامحدود منابع Unbounded Consumption

پیاده‌سازی LLMOps برای حریم خصوصی داده‌ها Implementing LLMOps for Data Privacy

• پیکربندی حریم خصوصی Privacy Configuration

• قابلیت مشاهده LLM (Observability) LLM Observability

• دمو: LiteLLM Demo: LiteLLM

• دمو: مانیتورینگ استفاده از API Demo: API Usage Monitoring

• نرده‌های حفاظتی (Guardrails) Guardrails

• دمو: Guardrails Demo: Guardrails

• محدودسازی هزینه و نرخ درخواست Cost and Rate Limiting

بررسی معماری‌های پیشرفته حریم خصوصی Exploring Advanced Privacy Architecture

• رایانش محرمانه (Confidential Computing) Confidential Computing

• یادگیری فدرال (Federated Learning) Federated Learning

• انطباق با قوانین رگولاتوری Regulatory Compliance