آموزش امنیت ایجنت‌های هوش مصنوعی: ۱۰ ریسک برتر OWASP برای سیستم‌های Agentic AI - آخرین آپدیت

سرفصل ها و درس ها

معرفی دوره و مسیر یادگیری Course Orientation and Learning Path

• خوش‌آمدگویی: چرا امنیت AI Agentic به استراتژی‌های جدید نیاز دارد Welcome: Why Agentic AI Security Needs a New Playbook

ASI01: ربایش هدف ایجنت ASI01: Agent Goal Hijack

• مرور کلی: وقتی هدف تغییر می‌کند اما جریان کاری عادی به نظر می‌رسد Overview: When the Goal Changes but the Workflow Looks Normal

• سناریو ۱: ربایش جریان کاری استرداد وجه در خدمات مشتریان Scenario 1: Customer Service Refund Workflow Hijack

• سناریو ۲: تغییر مسیر پرداخت توسط PDF فاکتور مخرب Scenario 2: Malicious Invoice PDF Redirects Payment

• سناریو ۳: ربایش تحقیقات بازار توسط صفحه وب مخرب Scenario 3: Malicious Web Page Hijacks Market Research

• نقشه تکنولوژی: تزریق پرامپت غیرمستقیم و مرزهای اعتماد Technology Map: Indirect Prompt Injection and Trust Boundaries

• معماری دفاع مشترک: حفاظت از قصد (Intent) به صورت سرتاسری Shared Defense Architecture: Protecting Intent End to End

• سنجش دانش: تهدیدات، اصطلاحات و دفاعات ASI01 Knowledge Check: ASI01 Threats, Terms & Defenses

ASI02: سوءاستفاده و بهره‌برداری از ابزارها ASI02: Tool Misuse & Exploitation

• مرور کلی: وقتی ابزارهای مجاز، اقدامات ناامن را اجرا می‌کنند Overview: When Legitimate Tools Execute Unsafe Actions

• سناریو ۱: حلقه‌های تکرار پرداخت در ماشین استرداد وجه Scenario 1: Refund Machine Loops Payouts

• سناریو ۲: غیرفعال کردن احراز هویت محیط عملیاتی توسط ایجنت DevOps Scenario 2: DevOps Agent Disables Production Auth

• سناریو ۳: تصمیم‌گیری ایجنت معاملاتی بر اساس خروجی مسموم ابزار Scenario 3: Trading Agent Acts on Poisoned Tool Output

• نقشه تکنولوژی: گاردریل‌های اجرا، Idempotency و اعتبارسنجی وضعیت Technology Map: Execution Guardrails, Idempotency, and State Validation

• معماری دفاع مشترک: اجرای محدود برای ابزارهای ایجنت Shared Defense Architecture: Bounded Execution for Agent Tools

• سنجش دانش: تهدیدات، اصطلاحات و دفاعات ASI02 Knowledge Check: ASI02 Threats, Terms & Defenses

ASI03: سوءاستفاده از هویت و امتیازات ASI03: Identity & Privilege Abuse

• مرور کلی: انحراف هویت، تفویض اختیار و ایجنت‌های دارای دسترسی بیش از حد Overview: Identity Drift, Delegation, and Over-Privileged Agents

• سناریو ۱: زنجیره تفویض اختیار مسموم Scenario 1: The Poisoned Delegation Chain

• سناریو ۲: نشت اعتبارنامه‌های نشست (Session) Scenario 2: The Session Credential Bleed

• سناریو ۳: بهره‌برداری از زنجیره اعتماد Scenario 3: The Trust Chain Exploit

• نقشه تکنولوژی: هویت غیرانسانی، زنجیره‌های اعتماد و Agency در لحظه (JIT) Technology Map: Non-Human Identity, Trust Chains, and JIT Agency

• معماری دفاع مشترک: کنترل‌های هویت محدود به وظیفه Shared Defense Architecture: Task-Scoped Identity Controls

• سنجش دانش: تهدیدات، اصطلاحات و دفاعات ASI03 Knowledge Check: ASI03 Threats, Terms & Defenses

ASI04: آسیب‌پذیری‌های زنجیره تأمین ایجنتی ASI04: Agentic Supply Chain Vulnerabilities

• مرور کلی: اعتماد در زمان اجرا به قالب‌ها، شمناها و سرورها Overview: Runtime Trust in Templates, Schemas, and Servers

• سناریو ۱: پردازشگر پرداخت شبح‌وار Scenario 1: The Phantom Payment Processor

• سناریو ۲: قالب پرامپت مسموم Scenario 2: The Poisoned Prompt Template

• سناریو ۳: نشت اطلاعات حساس (PII) در کاتالوگ محصولات Scenario 3: The Product Catalog PII Leak

• نقشه تکنولوژی: منشأ (Provenance)، یکپارچگی و پین کردن منبع Technology Map: Provenance, Integrity, and Source Pinning

• معماری دفاع مشترک: زنجیره‌های تأمین تایید شده در زمان اجرا Shared Defense Architecture: Verified Runtime Supply Chains

• سنجش دانش: تهدیدات، اصطلاحات و دفاعات ASI04 Knowledge Check: ASI04 Threats, Terms & Defenses

ASI05: اجرای کد غیرمنتظره (RCE) ASI05: Unexpected Code Execution (RCE)

• مرور کلی: وقتی خروجی از مرز داده به کد تبدیل می‌شود Overview: When Output Crosses the Data-to-Code Boundary

• سناریو ۱: فاجعه خود-ترمیم‌شونده Scenario 1: The Self-Healing Disaster

• سناریو ۲: تزریق کوئری در بررسی تداخلات دارویی Scenario 2: The Drug Interaction Query Injection

• سناریو ۳: فرار از شل (Shell Escape) در تحلیل موجودی Scenario 3: The Inventory Analytics Shell Escape

• نقشه تکنولوژی: ریسک RCE، سندباکسینگ و کمترین سطح دسترسی ایجنتی Technology Map: RCE Risk, Sandboxing, and Least Agency

• معماری دفاع مشترک: مرزهای امن کد Shared Defense Architecture: Safe Code Boundaries

• سنجش دانش: تهدیدات، اصطلاحات و دفاعات ASI05 Knowledge Check: ASI05 Threats, Terms & Defenses

ASI06: مسموم‌سازی حافظه و بافت (Context) ASI06: Memory & Context Poisoning

• مرور کلی: چگونه حافظه مسموم به حقیقتِ فردا تبدیل می‌شود Overview: How Poisoned Memory Becomes Tomorrow's Truth

• سناریو ۱: شبح قیمت‌گذاری سفر Scenario 1: The Travel Pricing Ghost

• سناریو ۲: انحراف الگوهای شناسایی کلاهبرداری Scenario 2: The Fraud Pattern Drift

• سناریو ۳: کاشت حافظه در فاکتورها Scenario 3: The Invoice Memory Plant

• نقشه تکنولوژی: اعتماد در بازیابی، منشأ و کنترل‌های نوشتن Technology Map: Retrieval Trust, Provenance, and Write Controls

• معماری دفاع مشترک: مسموم‌سازی حافظه و بافت Shared Defense Architecture: Memory & Context Poisioning

• سنجش دانش: تهدیدات، اصطلاحات و دفاعات ASI06 Knowledge Check: ASI06 Threats, Terms & Defenses

ASI07: ارتباطات ناامن بین ایجنت‌ها ASI07: Insecure Inter-Agent Communication

• مرور کلی: چرا پیام‌های داخلی ایجنت‌ها همچنان نیاز به تایید دارند Overview: Why Internal Agent Messages Still Need Verification

• سناریو ۱: عبور نسخه دستکاری شده دارو از باس (Bus) ایجنت بالینی Scenario 1: Tampered Prescription Crosses the Clinical Agent Bus

• سناریو ۲: تکرار تاییدیه برای دوبرابر کردن انتقال وجه Scenario 2: Replayed Approval Duplicates a Wire Transfer

• سناریو ۳: ایجنت صورت‌حساب شبح‌وار و رهگیری شکایات مشتریان Scenario 3: Ghost Billing Agent Intercepts Customer Escalations

• نقشه تکنولوژی: اعتماد همتا، mTLS، امضاها و تازگی داده‌ها Technology Map: Peer Trust, mTLS, Signatures, and Freshness

• معماری دفاع مشترک: کانال‌های مورد اعتماد بین ایجنتی Shared Defense Architecture: Trusted Inter-Agent Channels

• سنجش دانش: تهدیدات، اصطلاحات و دفاعات ASI07 Knowledge Check: ASI07 Threats, Terms & Defenses

ASI08: شکست‌های زنجیره‌ای ASI08: Cascading Failures

• مرور کلی: چگونه خطاهای کوچک ایجنت به شکست‌های بزرگ تجاری تبدیل می‌شوند Overview: How Small Agent Errors Become Large Business Failures

• سناریو ۱: سقوط زنجیره‌ای در معاملات مالی Scenario 1: The Financial Trading Cascade

• سناریو ۲: سقوط زنجیره‌ای در موجودی بیش از حد کریسمس Scenario 2: The Christmas Overstock Cascade

• سناریو ۳: سقوط زنجیره‌ای در تشخیص بیماری Scenario 3: The Diagnosis Cascade

• نقشه تکنولوژی: بررسی‌های معقول بودن، مدارشکن‌ها (Circuit Breakers) و شعاع تخریب Technology Map: Plausibility Checks, Circuit Breakers, and Blast Radius

• سنجش دانش: تهدیدات، اصطلاحات و دفاعات ASI08 Knowledge Check: ASI08 Threats, Terms & Defenses

ASI09: بهره‌برداری از اعتماد انسان به ایجنت ASI09: Human-Agent Trust Exploitation

• مرور کلی: وقتی هوش مصنوعیِ مطمئن، قضاوت انسان را منحرف می‌کند Overview: When Confident AI Steers Human Judgment

• سناریو ۱: کلاهبرداری با فاکتور با اعتماد به نفس کاذب Scenario 1: The Confident Invoice Fraud

• سناریو ۲: کاندیدای شبح‌وار Scenario 2: The Phantom Candidate

• نقشه تکنولوژی: سوگیری اتوماسیون، شواهد و اعتبارسنجی Technology Map: Automation Bias, Evidence, and Verification

• سنجش دانش: تهدیدات، اصطلاحات و دفاعات ASI09 Knowledge Check: ASI09 Threats, Terms & Defenses

ASI10: ایجنت‌های سرکش ASI10: Rogue Agents

• مرور کلی: هک پاداش، بازی با معیارها و انحراف از ماموریت Overview: Reward Hacking, Metric Gaming, and Mission Drift

• سناریو ۱: حذف‌کننده مرجوعی‌های مشتریان Scenario 1: The Customer Returns Eliminator

• نقشه تکنولوژی: اهداف چندمعیاره، تشخیص انحراف و کلیدهای قطع اضطراری Technology Map: Multi-Metric Objectives, Drift Detection, and Kill Switches

• سنجش دانش: تهدیدات، اصطلاحات و دفاعات ASI10 Knowledge Check: ASI10 Threats, Terms & Defenses

چالش نهایی تسلط بر امنیت ایجنتی Agentic Security Mastery Challenge

• ارزیابی نهایی: تشخیص، دفاع و مهار ریسک‌های ایجنتی Final Assessment: Diagnose, Defend, and Contain Agentic Risk