آموزش جامع و عملی OWASP Top 10 برای مدل‌های زبانی بزرگ (LLMs) - آخرین آپدیت

سرفصل ها و درس ها

خوش‌آمدگویی و راه‌اندازی Welcome & Setup

• خوش‌آمدگویی و آنچه خواهید ساخت Welcome and What You'll Build

• نگاهی کلی به OWASP Top Ten برای LLMها OWASP Top Ten for LLMs at a Glance

• راه‌اندازی Ollama و پلتفرم آزمایشگاه Setting Up Ollama and the Lab Platform

• دمو: راه‌اندازی Ollama و پلتفرم آزمایشگاه Demo: Setting Up Ollama and the Lab Platform

• گشتی در کنسول امنیتی A Tour of the Security Console

• نصب آزمایشگاه روی ویندوز، مک و لینوکس Installing the Lab on Windows, macOS, and Linux

• راهنمای گام‌به‌گام نصب: اجرای دستورات Install Walkthrough: Run the Commands

• دمو: گشتی در کنسول امنیتی DEMO: A Tour Of The Security Console

• برپایی محلی پلتفرم آزمایشگاه Stand Up the Lab Platform Locally

LLM01: تزریق پرامپت (Prompt Injection) LLM01: Prompt Injection

• تزریق پرامپت واقعاً چیست؟ What Is Prompt Injection, Really?

• دموهای زنده: تزریق مستقیم، نقش‌آفرینی و Zero Width Smuggle Live Demos: Direct, Role-Play, and Zero-Width Smuggle

• دمو: تزریق مستقیم، نقش‌آفرینی و Zero Width Smuggle Demo: Live Demos - Direct, Role-Play, and Zero-Width Smuggle

• دفاع‌های لایه‌ای: فیلتر، اعتبارسنج و پاک‌ساز Layered Defenses: Filter, Validator, Sanitizer

• دمو: دفاع‌های لایه‌ای: فیلتر، اعتبارسنج و پاک‌ساز Demo: Layered Defenses - Filter, Validator, Sanitizer

• راهنمای آزمایشگاه: ساخت یک بای‌پس و سپس اصلاح آن Lab Walkthrough: Build a Bypass, Then a Fix

• دمو: ساخت یک بای‌پس و سپس اصلاح آن Demo: Lab Walkthrough - Build a Bypass, Then a Fix

• تست دانش: تزریق پرامپت (LLM01) Knowledge Check: Prompt Injection (LLM01)

• کشف یک روش جدید برای دور زدن تزریق پرامپت و دفاع در برابر آن Discover a Novel Prompt-Injection Bypass and Defend It

LLM02: افشای اطلاعات حساس LLM02: Sensitive Information Disclosure

• مدل‌های زبانی چگونه داده‌ها را نشت می‌دهند How LLMs Leak Data

• سناریوی بهداشت و درمان: چهار حمله Healthcare Scenario: Four Attacks

• دمو: سناریوی بهداشت و درمان: چهار حمله Demo: Healthcare Scenario - Four Attacks

• پاک‌سازی خروجی و حذف اسرار از پرامپت‌ها Output Redaction and 'Secrets Out of Prompts'

• آزمایشگاه: بازنویسی دستیار مالی Lab: Refactor the Finance Assistant

• دمو: بازنویسی دستیار مالی Demo: Lab - Refactor the Finance Assistant

• پیاده‌سازی پاک‌سازی خروجی بر اساس نقش کاربر Implement Role-Aware Output Redaction

LLM03: زنجیره تأمین (Supply Chain) LLM03: Supply Chain

• زنجیره تأمین در اپلیکیشن‌های LLM Supply Chain in LLM Apps

• وابستگی‌های توهمی و دستورالعمل‌های آلوده Hallucinated Dependencies and Tainted Playbooks

• دمو: وابستگی‌های توهمی و دستورالعمل‌های آلوده Demo: Hallucinated Dependencies and Tainted Playbooks

• حسابرسی منشأ (بدون اکسپلویت) Provenance Audit (No Exploit)

• دمو: حسابرسی منشأ Demo: Provenance Audit

• حسابرسی منشأ در یکی از پروژه‌های AI خودتان Provenance Audit of One of Your Own AI Projects

LLM04: مسمومیت داده‌ها و مدل LLM04: Data & Model Poisoning

• مسمومیت در زمان بازیابی در مقابل زمان آموزش Retrieval-Time vs Training-Time Poisoning

• زنده: آپلود یک دفترچه راهنمای مسموم Live: Upload a Poisoned Handbook

• دمو: آپلود یک دفترچه راهنمای مسموم Demo: Live - Upload a Poisoned Handbook

• برچسب‌های اعتماد و ایزوله‌سازی کانتکست Trust Labels and Context Isolation

• انگشت‌نگاری اسناد تزریق شده Fingerprinting Injected Docs

• دمو: انگشت‌نگاری اسناد تزریق شده Demo: Fingerprinting Injected Docs

• ساخت ماژول دفاعی برای امتیازدهی مسمومیت اسناد Build a Document-Poisoning Scorer Defense Module

LLM05: مدیریت نادرست خروجی LLM05: Improper Output Handling

• برخورد با خروجی مدل به عنوان ورودی غیرقابل اعتماد Treat Model Output as Untrusted Input

• حملات XSS، URI و SQL به صورت زنده XSS, URI, and SQL - Live

• دمو: حملات XSS، URI و SQL به صورت زنده Demo: XSS, URI, and SQL - Live

• لایه‌های پاک‌سازی و وظیفه رندرکننده Sanitization Layers and the Renderer's Job

• دمو: لایه‌های پاک‌سازی و وظیفه رندرکننده Demo: Sanitization Layers and the Renderer's Job

• شناسایی نقاط خروجی مدل در اپلیکیشن شما Map the Model-Output Sinks in Your Application

LLM06: دسترسی بیش از حد (Excessive Agency) LLM06: Excessive Agency

• مشکل Agency در ایجنت‌های LLM The Agency Problem in LLM Agents

• شبیه‌ساز ابزار: ارسال ایمیل، انتقال وجه (آسیب‌پذیر) Tool Simulator: sendEmail, transferFunds (Vulnerable)

• دمو: شبیه‌ساز ابزار: ارسال ایمیل و انتقال وجه (آسیب‌پذیر) Demo: Tool Simulator - sendEmail, transferFunds (Vulnerable)

• لیست سفید + محدودسازی دامنه + نظارت انسانی (HITL) Allowlist + Scoping + HITL

• دمو: لیست سفید + محدودسازی دامنه + نظارت انسانی (HITL) Demo: Allowlist + Scoping + HITL

• آزمایشگاه: ارتقای ارسال ایمیل به وضعیت مجاز با محدوده مشخص Lab: Promote sendEmail to Allowed-With-Scope

• افزودن ابزار searchHandbook محدود شده به لیست سفید Add a Scoped searchHandbook Tool to the Allowlist

LLM07: نشت پرامپت سیستم LLM07: System Prompt Leakage

• پرامپت‌ها قابل کشف هستند (تغییر دیدگاه) The Prompt Is Discoverable (Mindset Shift)

• دمو: ارتقای ارسال ایمیل به وضعیت مجاز با محدوده مشخص Demo: Lab - Promote sendEmail to Allowed-With-Scope

• چهار بردار نشت داده به صورت زنده Four Leak Vectors Live

• دمو: چهار بردار نشت داده به صورت زنده Demo: Four Leak Vectors Live

• خارج کردن کامل اسرار و کلیدها از پرامپت Move Secrets Out of the Prompt Entirely

• دمو: خارج کردن کامل اسرار از پرامپت Demo: Move Secrets Out of the Prompt Entirely

• حذف اسرار جاسازی شده در پرامپت از یک سناریو Remove Prompt-Embedded Secrets From a Scenario

LLM08: نقاط ضعف وکتور و Embedding LLM08: Vector & Embedding Weaknesses

• شباهت کسینوسی به معنای اعتبار نیست Cosine Similarity Is Not Authority

• مسمومیت لنگر (Anchor Poisoning) و نشت بین مستاجران Anchor Poisoning and Cross-Tenant Leakage

• دمو: مسمومیت لنگر و نشت بین مستاجران Demo: Anchor Poisoning and Cross-Tenant Leakage

• اعتماد به منبع و ایزوله‌سازی مستاجران (Tenant Isolation) Source Trust and Tenant Isolation

• دمو: اعتماد به منبع و ایزوله‌سازی مستاجران Demo: Source Trust and Tenant Isolation

• افزودن ایزوله‌سازی مستاجران به بازیابی RAG Add Tenant Isolation to RAG Retrieval

LLM09: اطلاعات نادرست و اتکای بیش از حد LLM09: Misinformation & Overreliance

• چرا LLMها با اعتماد به نفس توهم می‌زنند Why LLMs Hallucinate Confidently

• سناریوی SOC: CVEهای جعلی و مراحل دستورالعمل غلط SOC Scenario: Fake CVEs and Runbook Steps

• دمو: سناریوی SOC: CVEهای جعلی و مراحل دستورالعمل غلط Demo: SOC Scenario - Fake CVEs and Runbook Steps

• حالت رد کردن (Refuse Mode) و انضباط در ارجاع‌دهی Refuse Mode and Citation Discipline

• دمو: حالت رد کردن و انضباط در ارجاع‌دهی Demo: Refuse Mode and Citation Discipline

• ساخت سیستم دفاعی تأییدکننده ارجاعات Build a Citation Verifier Defense

LLM10: مصرف نامحدود (Denial of Wallet) LLM10: Unbounded Consumption

• حمله Denial of Wallet (تخلیه کیف پول) Denial of Wallet

• محدودیت نرخ و سقف توکن در عمل Rate Limits and Token Caps in Action

• دمو: محدودیت نرخ و سقف توکن در عمل Demo: Rate Limits and Token Caps in Action

• داشبورد هزینه‌ها و معیارهای بودجه Cost Dashboard and Budget Metrics

• دمو: داشبورد هزینه‌ها و معیارهای بودجه Demo: Cost Dashboard and Budget Metrics

• پیاده‌سازی کارت هزینه در دقیقه و محدودیت نرخ بر اساس IP Ship a Cost-Per-Minute Card and Per-IP Rate Limit

جمع‌بندی و پروژه نهایی Wrap-Up & Capstone

• مرور مفاهیم دفاع در عمق Defense-in-Depth Recap

• پروژه نهایی: مقاوم‌سازی یک سناریوی جدید Capstone: Harden a New Scenario

• گام‌های بعدی و مسیر یادگیری Where to Go Next

• دوره‌های مرتبط Related Courses

• پروژه نهایی: مدل تهدید و مقاوم‌سازی محصول جدید NovaBridge Capstone - Threat-Model and Harden a New NovaBridge Product

• دانلود راهنمای رایگان همراه Download Your Free Companion Guide

• آزمون جامع تمرینی OWASP LLM Top 10 OWASP LLM Top 10 - Cumulative Practice Exam