آموزش طراحی معماری‌های امن هوش مصنوعی برای سیستم‌های مدرن - آخرین آپدیت

سرفصل ها و درس ها

مقدمه دوره Course Introduction

• مقدمه دوره Course Introduction

ماژول ۱: زیرساخت هوش مصنوعی و سطوح حمله Module 1: AI Infrastructure & Attack Surfaces

• ریسک‌های پنهان در هوش مصنوعی The Hidden Risk in AI

• محافظت از وزن‌های مدل Model Weight Protection

• امنیت نقاط انتهایی استنتاج Inference Endpoint Security

• یکپارچه‌سازی API و پلاگین‌ها API & Plugin Integration

• مکانیسم‌های تزریق مستقیم Direct Injection Mechanics

• بردارهای تزریق غیرمستقیم Indirect Injection Vectors

• نشت داده‌ها بین پرومپت‌ها Cross-Prompt Data Leakage

• ریسک‌های به‌خاطرسپاری داده‌ها Memorization Risks

• حملات استنتاج عضویت Membership Inference Attacks

• مبانی حریم خصوصی تفاضلی Differential Privacy Basics

• شناسایی هوش مصنوعی مدیریت‌نشده Unmanaged AI Discovery

• استفاده از CASB برای ترافیک هوش مصنوعی CASB for AI Traffic

• مرزهای اعتماد در هوش مصنوعی AI Trust Boundaries

• مدل‌سازی مبتنی بر رفتار Behavior-Based Modeling

ماژول ۲: مهندسی دفاعی و نرده‌های حفاظتی Module 2: Defensive Engineering & Guardrails

• طراحی دیواره آتش پرومپت Prompt Firewall Design

• فیلترینگ در سطح توکن Token-Level Filtering

• موتورهای حذف اطلاعات شخصی (PII) PII Redaction Engines

• تشخیص کلیدهای API API Key Detection

• محدودسازی مبتنی بر قصد Intent-Based Limiting

• تخلیه منابع سیستم Resource Exhaustion

• نرده‌های حفاظتی در برابر توهمات Hallucination Guardrails

• فیلترهای سمیت و سوگیری Toxicity & Bias Filters

ماژول ۳: حاکمیت و انطباق Module 3: Governance & Compliance

• طبقه‌بندی ریسک Risk Classification

• گزارش‌های شفافیت Transparency Reports

• ستون «حاکمیت» The "Govern" Pillar

• ستون‌های «نقشه‌برداری و اندازه‌گیری» The "Map & Measure" Pillars

• ایجاد کارت مدل Model Card Creation - Copy

• نویسندگی کارت سیستم System Card Authoring

ماژول ۴: گردش کارهای عامل‌محور و خودمختاری محدود Module 4: Agentic Workflows & Bounded Autonomy

• مجوزهای استفاده از ابزار Tool-Use Permissions

• تفسیر نادرست دستورات Command Misinterpretation

• تأییدیه در موارد حساس High-Stakes Approval

• تعریف محدودیت‌های خودمختاری Defining Autonomy Limits

ماژول ۵: عملیات و نفوذ (نقش اولین استخدام) Module 5: Operations & Influence (The First Hire Role)

• اسکن وزن‌های مدل Weight Scanning

• تبارشناسی مجموعه‌داده‌ها Dataset Lineage

• ارائه طرح «تسهیل‌کننده امنیت» The "Security Enabler" Pitch

• معماری بین‌تیمی Cross-Team Architecture

ماژول ۶: الگوها و پلتفرم‌های هوش مصنوعی ابری Module 6: Cloud AI Patterns & Platforms

• نقاط انتهایی خصوصی Private Endpoints

• پیکربندی عدم ذخیره‌سازی (Zero Retention) Zero Retention Config

• یکپارچه‌سازی با Azure VNet Azure VNet Integration

• امنیت RAG (مدیریت دسترسی مبتنی بر نقش) RAG Security (RBAC)

• نرده‌های حفاظتی Bedrock Bedrock Guardrails

• نقش‌های IAM برای عوامل (Agents) IAM Roles for Agents

• مبانی ابر حاکمیتی Sovereign Cloud Basics

• کنترل‌های سرویس VPC VPC Service Controls

فاز ۶ مطالعه موردی: استارت‌آپ داخلی چند-ابری Phase 6 Case Study: The Multi-cloud "Internal Startup"

• نگاشت IAM در ابرهای مختلف Cross-Cloud IAM Mapping

• پراکسی امن در درگاه API Secure API Gateway Proxying

• رمزنگاری در حال انتقال و در حالت استراحت Encryption in Transit & at Rest