آموزش امنیت هوش مصنوعی عامل‌محور (Agentic AI): حمله و دفاع از عامل‌های خودمختار - آخرین آپدیت

سرفصل ها و درس ها

مبانی امنیت عامل‌ها Foundations of Agent Security

• خوش‌آمدگویی — چرا امنیت عامل‌ها یک تخصص جدید است Welcome — Why Securing Agents Is a New Discipline

• کالبدشکافی یک عامل — حلقه ادراک، برنامه‌ریزی و اقدام Anatomy of an Agent — The Perceive-Plan-Act Loop

• سطح حمله عامل‌ها — جایی که اعتماد می‌شکند The Agent Attack Surface — Where Trust Breaks

• چارچوب‌های تهدید — OWASP، MITRE ATLAS، NIST AI RMF Threat Frameworks — OWASP, MITRE ATLAS, NIST AI RMF

• آشنایی با TaskPilot — عامل آزمایشگاهی آسیب‌پذیر شما Meet TaskPilot — Your Vulnerable Lab Agent

• راه‌اندازی محیط آزمایشگاه (macOS · Windows · Linux) Set Up Your Lab Environment (macOS · Windows · Linux)

• آزمایش ۱ — ساخت و ترسیم سطح حمله یک عامل آسیب‌پذیر (TaskPilot) Lab 1 — Build & Map a Vulnerable Agent (TaskPilot)

• کوییز بخش ۱ — مبانی امنیت عامل‌ها Section 1 Quiz — Foundations of Agent Security

• مدل‌سازی تهدیدات سطح حمله در یک جریان کاری عامل‌محور Threat-Model an Agentic Workflow's Attack Surface

تزریق پرامپت در حلقه‌های عامل Prompt Injection in Agent Loops

• تزریق پرامپت مستقیم — ربودن کانال دستورات Direct Prompt Injection — Hijacking the Instruction Channel

• تزریق غیرمستقیم — وقتی خروجی ابزار به دستور تبدیل می‌شود Indirect Injection — When Tool Output Becomes a Command

• RAG و مسموم‌سازی حافظه — ماندگاری کد مخرب RAG & Memory Poisoning — Persisting the Payload

• دفاعات ۱ — متدهای Spotlighting، محدودسازی و Dual LLM Defenses I — Spotlighting, Delimiting & Dual-LLM Patterns

• دفاعات ۲ — مدیریت خروجی و شناسایی تزریق Defenses II — Output Handling & Injection Detection

• آزمایش ۲ — تزریق پرامپت غیرمستقیم و روش‌های دفاع Lab 2 — Indirect Prompt Injection & Defenses

• کوییز بخش ۲ — تزریق پرامپت در حلقه‌های عامل Section 2 Quiz — Prompt Injection in Agent Loops

• ساخت دفاع ۳ لایه در برابر تزریق پرامپت برای حلقه عامل Build a 3-Layer Prompt-Injection Defense for an Agent Loop

آسیب‌پذیری‌های فراخوانی ابزار Tool-Calling Vulnerabilities

• طراحی ابزار امن — ابزار به عنوان مرز اعتماد شما Secure Tool Design — The Tool Is Your Trust Boundary

• تزریق آرگومان و دستور در ابزارها Argument & Command Injection in Tools

• SSRF، پیمایش مسیر (Path Traversal) و ابزارهای Fetch و File SSRF, Path Traversal & the Fetch and File Tools

• امنیت سرور MCP — اسکیماها، توضیحات و اعتماد MCP Server Security — Schemas, Descriptions & Trust

• مقاوم‌سازی ابزارهای TaskPilot Hardening TaskPilot's Tools

• آزمایش ۳ — بهره‌برداری از ابزار ← مقاوم‌سازی Lab 3 — Tool Exploitation → Hardening

• کوییز بخش ۳ — آسیب‌پذیری‌های فراخوانی ابزار Section 3 Quiz — Tool-Calling Vulnerabilities

• بازطراحی یک ابزار عامل به عنوان یک مرز اعتماد امن Redesign an Agent Tool into a Secure Trust Boundary

دسترسی بیش از حد و اصل حداقل دسترسی Excessive Agency & Least Privilege

• سه مورد افراط — عملکرد، مجوزها و خودمختاری The Three Excesses — Functionality, Permissions, Autonomy

• حداقل دسترسی برای عامل‌ها — محدودسازی قابلیت‌ها Least Privilege for Agents — Capability Scoping

• ساخت کارگزار مجوز (Permission Broker) و محدوده‌های MCP Building a Permission Broker & MCP Scopes

• الگوهای اجازه/رد و تایید به روش Claude Allow/Deny & Approval Patterns the Claude Way

• آزمایش ۴ — حداقل دسترسی و کارگزار مجوز Lab 4 — Least Privilege & Permission Broker

• کوییز بخش ۴ — دسترسی بیش از حد و حداقل دسترسی Section 4 Quiz — Excessive Agency & Least Privilege

• نوشتن سیاست مجوز حداقل دسترسی برای یک عامل Write a Least-Privilege Permission Policy for an Agent

اجرای چند مرحله‌ای و امنیت حافظه Multi-Step Execution & Memory Security

• ربودن برنامه و هدف — هدایت حلقه چند مرحله‌ای Plan & Goal Hijacking — Steering the Multi-Step Loop

• مسموم‌سازی حافظه و وضعیت در طول نشست‌ها Memory & State Poisoning Across Sessions

• سوءاستفاده از حلقه، بازگشت و هزینه — حمله Denial of Wallet Loop, Recursion & Cost Abuse — Denial of Wallet

• گارد‌های اجرایی — محدودیت مراحل، بودجه و نقاط بازرسی (Checkpoints) Execution Guards — Step Limits, Budgets & Checkpoints

• آزمایش ۵ — گارد‌های حافظه و اجرا Lab 5 — Execution & Memory Guards

• کوییز بخش ۵ — اجرای چند مرحله‌ای و امنیت حافظه Section 5 Quiz — Multi-Step Execution & Memory Security

• افزودن گارد‌های اجرایی و منشاء حافظه به یک عامل چند مرحله‌ای Add Execution Guards and Memory Provenance to a Multi-Step Agent

سیستم‌های چند-عاملی و خودمختار Multi-Agent & Autonomous Systems

• تزریق عامل-به-عامل — اعتماد بین عامل‌ها Agent-to-Agent Injection — Trust Between Agents

• مشکل Confused Deputy و تفویض اختیار مخرب The Confused Deputy & Malicious Delegation

• ریسک‌های ارکستراسیون در CrewAI و AutoGen Orchestration Risk in CrewAI & AutoGen

• دروازه‌های نظارت انسانی برای کنترل خودمختاری Human-in-the-Loop Gates for Autonomy

• آزمایش ۶ — حمله چند-عاملی + نظارت انسانی Lab 6 — Multi-Agent Attack + Human-in-the-Loop

• کوییز بخش ۶ — سیستم‌های چند-عاملی و خودمختار Section 6 Quiz — Multi-Agent & Autonomous Systems

• مدل‌سازی تهدیدات مرزهای اعتماد در یک تیم چند-عاملی Threat-Model a Multi-Agent Crew's Trust Boundaries

سندباکسینگ، ایزوله‌سازی و اجرای امن Sandboxing, Isolation & Secure Execution

• سندباکسینگ اجرای کد — مدل تهدید Sandboxing Code Execution — Threat Model

• کانتینرها، Seccomp و کنترل خروجی (Egress Control) Containers, Seccomp & Egress Control

• رازها، اعتبارنامه‌ها و شعاع تخریب (Blast Radius) Secrets, Credentials & the Blast Radius

• زنجیره تأمین ابزار و MCP — سرورهای مخرب Tool & MCP Supply Chain — Malicious Servers

• آزمایش ۷ — سندباکس کردن ابزار اجرای کد Lab 7 — Sandbox the Code-Exec Tool

• کوییز بخش ۷ — سندباکسینگ، ایزوله‌سازی و اجرای امن Section 7 Quiz — Sandboxing, Isolation & Secure Execution

• نوشتن مشخصات سندباکس با خروجی مسدود شده برای ابزار code_exec Write an Egress-Denied Sandbox Spec for an Agent's code_exec Tool

شناسایی، مانیتورینگ و حاکمیت Detection, Monitoring & Governance

• Tracing و مشاهده‌پذیری برای عامل‌ها با OpenTelemetry Tracing & Observability for Agents with OpenTelemetry

• گاردریل‌های زمان اجرا — فیلترهای ورودی، خروجی و اقدام Runtime Guardrails — Input, Output & Action Filters

• تست نفوذ خودکار — Garak و PyRIT Automated Red-Teaming — Garak & PyRIT

• حاکمیت — NIST AI RMF، قانون AI اتحادیه اروپا، ISO 42001 Governance — NIST AI RMF, EU AI Act, ISO 42001

• پاسخ به حوادث و گزارش نهایی تست نفوذ Incident Response & the Capstone Red-Team Report

• آزمایش ۸ (پروژه نهایی) — دفاع و گزارش‌دهی Lab 8 (Capstone) — Defend & Report

• کوییز بخش ۸ — شناسایی، مانیتورینگ و حاکمیت Section 8 Quiz — Detection, Monitoring & Governance

• پروژه نهایی — تولید گزارش تست نفوذ و اصلاحیه آماده برای مشتری Capstone — Produce a Client-Ready Agent Red-Team & Remediation Report

• امتحان نهایی — امنیت هوش مصنوعی عامل‌محور (۳۰ سوال، نمره قبولی ۷۰٪) Final Exam — Securing Agentic AI (30 Q, 70% pass)

بونوس: منابع رایگان Bonus: Free Resource

• دانلود راهنمای رایگان همراه Download Your Free Companion Guide