آموزش طراحی معماری‌های امن هوش مصنوعی برای سیستم‌های مدرن [ویدئویی] - آخرین آپدیت

سرفصل ها و درس ها

مقدمه دوره Course Introduction

• مقدمه دوره Course Introduction

ماژول ۱: زیرساخت هوش مصنوعی و سطوح حمله Module 1: AI Infrastructure & Attack Surfaces

• ریسک‌های پنهان در هوش مصنوعی The Hidden Risk in AI

• حفاظت از وزن‌های مدل Model Weight Protection

• امنیت نقاط پایانی استنتاج Inference Endpoint Security

• یکپارچه‌سازی API و پلاگین‌ها API & Plugin Integration

• مکانیسم‌های تزریق مستقیم Direct Injection Mechanics

• بردارهای تزریق غیرمستقیم Indirect Injection Vectors

• نشت داده‌ها بین پرامپت‌ها Cross-Prompt Data Leakage

• ریسک‌های به‌خاطرسپاری داده‌ها Memorization Risks

• حملات استنتاج عضویت Membership Inference Attacks

• مبانی حریم خصوصی تفاضلی Differential Privacy Basics

• شناسایی هوش مصنوعی‌های مدیریت‌نشده Unmanaged AI Discovery

• استفاده از CASB برای ترافیک AI CASB for AI Traffic

• مرزهای اعتماد در هوش مصنوعی AI Trust Boundaries

• مدل‌سازی بر اساس رفتار Behavior-Based Modeling

ماژول ۲: مهندسی دفاعی و گاردریل‌ها Module 2: Defensive Engineering & Guardrails

• طراحی دیواره آتش پرامپت Prompt Firewall Design

• فیلترینگ در سطح توکن Token-Level Filtering

• موتورهای حذف اطلاعات شناسایی شخصی (PII) PII Redaction Engines

• شناسایی کلیدهای API API Key Detection

• محدودسازی بر اساس قصد کاربر Intent-Based Limiting

• تخلیه منابع سیستم Resource Exhaustion

• گاردریل‌های مقابله با توهمات AI Hallucination Guardrails

• فیلترهای سمیت و سوگیری Toxicity & Bias Filters

ماژول ۳: حاکمیت و انطباق Module 3: Governance & Compliance

• طبقه‌بندی ریسک Risk Classification

• گزارش‌های شفافیت Transparency Reports

• ستون «حاکمیت» The "Govern" Pillar

• ستون‌های «نقشه و اندازه‌گیری» The "Map & Measure" Pillars

• ایجاد کارت مدل Model Card Creation - Copy

• تدوین کارت سیستم System Card Authoring

ماژول ۴: جریان‌های کاری عامل‌محور و خودمختاری محدود Module 4: Agentic Workflows & Bounded Autonomy

• مجوزهای استفاده از ابزار Tool-Use Permissions

• تفسیر نادرست دستورات Command Misinterpretation

• تأییدیه برای اقدامات حساس High-Stakes Approval

• تعریف محدودیت‌های خودمختاری Defining Autonomy Limits

ماژول ۵: عملیات و نفوذ (نقش اولین استخدام) Module 5: Operations & Influence (The First Hire Role)

• اسکن وزن‌های مدل Weight Scanning

• تبارشناسی مجموعه داده‌ها Dataset Lineage

• ارائه طرح «تسهیل‌کننده امنیت» The "Security Enabler" Pitch

• معماری بین-تیمی Cross-Team Architecture

ماژول ۶: الگوها و پلتفرم‌های ابری هوش مصنوعی Module 6: Cloud AI Patterns & Platforms

• نقاط پایانی خصوصی Private Endpoints

• پیکربندی عدم ذخیره‌سازی (Zero Retention) Zero Retention Config

• یکپارچه‌سازی با Azure VNet Azure VNet Integration

• امنیت RAG (کنترل دسترسی مبتنی بر نقش) RAG Security (RBAC)

• گاردریل‌های Bedrock Bedrock Guardrails

• نقش‌های IAM برای عامل‌ها IAM Roles for Agents

• مبانی ابر حاکمیتی Sovereign Cloud Basics

• کنترل‌های سرویس VPC VPC Service Controls

فاز ۶ مطالعه موردی: استارتاپ داخلی چند-ابری Phase 6 Case Study: The Multi-cloud "Internal Startup"

• نگاشت IAM بین-ابری Cross-Cloud IAM Mapping

• پراکسی امن در درگاه API Secure API Gateway Proxying

• رمزنگاری داده‌ها در حال انتقال و در حالت استراحت Encryption in Transit & at Rest