آموزش امنیت سایبری GenAI: برترین ریسک‌های OWASP، چارچوب MITRE ATLAS و حملات API - آخرین آپدیت

سرفصل ها و درس ها

مقدمه Introduction

• خوش‌آمدگویی به دوره + معرفی مدرس + آنچه خواهید آموخت Welcome to the Course + Instructor Intro + What You’ll Learn

آشنایی با مدل‌های زبانی بزرگ (LLMs) Introduction to Large Language Models (LLMs)

• مقدمه بخش: آنچه درباره مدل‌های زبانی بزرگ (LLMs) خواهید آموخت Section Introduction: What You’ll Learn About Large Language Models (LLMs)

• مدل‌های LLM چیستند؟ توضیح مفاهیم مدل‌های زبانی بزرگ What Are LLMs? Understanding Large Language Models Explained

• جایگاه مدل‌های زبانی بزرگ در چشم‌انداز هوش مصنوعی مولد Where Large Language Models Fit in the Generative AI Landscape

• تکامل LLMها: از شبکه‌های عصبی اولیه تا ترنسفورمرها Evolution of LLMs: From Early Neural Networks to Transformers

• درک شبکه‌های عصبی کانولوشنال (CNN) برای تشخیص تصویر Understanding Convolutional Neural Networks for Image Recognition

• درک شبکه‌های عصبی بازگشتی (RNNs) برای پردازش زبان Understanding Recurrent Neural Networks (RNNs) for Language Processing

• چگونه ترنسفورمرها و LLMها پردازش زبان را متحول کردند How Transformers and LLMs Revolutionized Language Processing

• نقش کدگذاری‌های موقعیتی در درک ترتیب کلمات توسط ترنسفورمرها How Positional Encodings Help Transformers Understand Word Order

• نحوه ایجاد درک متنی غنی توسط Self Attention در ترنسفورمرها How Self-Attention Builds Rich Contextual Understanding in Transformers

• درک Multi Head Attention در ترنسفورمرها: دیدگاه‌های متعدد به زبان Understanding Multi-Head Attention in Transformers: Multiple Views of Language

• جمع‌بندی نوآوری‌های ترنسفورمر: مفاهیم کلیدی پشت LLMها Summary of Transformer Innovations: Key Concepts Behind LLMs

• چگونه ترنسفورمرها مدل‌های پایه و LLMها را قدرت می‌بخشند How Transformers Power Foundation Models and LLMs

• انواع LLMها: موارد استفاده و اکوسیستم مدرن AI Types of LLMs: Use Cases and the Modern AI Ecosystem

• چالش‌ها و ریسک‌های مدل‌های زبانی بزرگ (LLMs) Challenges and Risks of Large Language Models (LLMs)

• جمع‌بندی بخش اول: بررسی عمیق مدل‌های زبانی بزرگ Wrapping Up Section 1: Deep Dive into Large Language Models (LLMs)

• کوییز بخش ۲: مبانی شبکه‌های عصبی و LLMها Section 2 Quiz: Foundations of Neural Networks & LLMs

آناتومی سیستم LLM و سطح حمله امنیتی آن Anatomy of an LLM System and Its Security Attack Surface

• مقدمه‌ای بر معماری سیستم LLM: داخل یک مدل زبانی بزرگ چیست Introduction to LLM System Architecture: What’s Inside a Large Language Model

• از مدل LLM تا سیستم کامل LLM: درک معماری پشت AI From LLM Model to Full LLM System: Understanding the Architecture Behind AI

• آناتومی سیستم LLM: درک معماری کامل فراتر از مدل Anatomy of an LLM System: Understanding the Full Architecture Beyond the Model

• لایه مدل AI: هوش مرکزی پشت مدل‌های زبانی بزرگ The AI Model Layer: Core Intelligence Behind Large Language Models

• لایه زیرساخت سیستم‌های LLM: قدرت‌بخشی و ایمن‌سازی هسته The Infrastructure Layer of LLM Systems: Powering and Securing the Core

• توضیح واحد پردازش LLM: مدیریت استنتاج، کنترل پرامپت و منطق زمان اجرا LLM Processing Unit Explained: Inference Handling, Prompt Cntrl & Runtime Logic

• درک لایه یکپارچه‌سازی: APIها، SDKها و پلاگین‌ها در سیستم‌های LLM Understanding the Integration Layer: APIs, SDKs, and Plugins in LLM Systems

• لایه اپلیکیشن: نحوه تعامل کاربران با سیستم‌های LLM The Application Layer: How Users Interact with LLM Systems

• جمع‌بندی سیستم LLM و آماده‌سازی برای تحلیل سطح حمله LLM System Summary & Preparing for Attack Surface Analysis

• لایه‌ها و توابع در یک سیستم LLM Layers and Functions in an LLM System

درک سطوح حمله LLM Understanding LLM Attack Surfaces

• مقدمه‌ای بر سطوح حمله LLM: چه چیزهایی اکسپوز می‌شوند و چرا اهمیت دارد Introduction to LLM Attack Surfaces: What Gets Exposed and Why It Matters

• درک مفهوم سطح حمله (Attack Surface) در امنیت سایبری Understanding the Concept of Attack Surfaces in Cybersecurity

• چگونه یکپارچه‌سازی و رشد، سطح حمله امنیتی شما را گسترش می‌دهد How Integration and Growth Expand Your Cybersecurity Attack Surface

• چرا سیستم‌های در دسترس عموم با ریسک‌های امنیتی بالاتری روبرو هستند Why Publicly Exposed Systems Face Higher Cybersecurity Risks

• چرا مدل‌های زبانی بزرگ سطوح حمله گسترده‌تر و ریسکی‌تری دارند Why Large Language Models Have Bigger and Riskier Attack Surfaces

• تحلیل سطوح حمله LLM: سازمان‌های کاربر در مقابل ارائه‌دهندگان مدل Analyzing LLM Attack Surfaces: User Organizations vs Model Providers

• سناریوی ۱: سطوح حمله LLM در سازمان‌هایی که از مدل‌های AI استفاده می‌کنند Scenario 1: LLM Attack Surfaces in Organizations Using AI Models

• دموی تزریق پرامپت: چگونه پاسخ چت‌بات شورولت به قیمت ۱ دلاری وایرال شد Prompt Injection Demonstration: How a $1 Chevy Tahoe Chatbot Reply Went Viral

• سناریوی ۲: بررسی عمیق سطوح حمله LLM از سمت ارائه‌دهنده Scenario 2: Deep Dive into LLM Attack Surfaces from the Provider Side

• مطالعه موردی مسموم‌سازی داده‌های آموزشی: چگونه Microsoft Tay در توییتر دستکاری شد Training Data Poisoning Case Study: How Microsoft Tay Was Manipulated on Twitter

• افشای داده‌های استنتاج و لاگ: مطالعه موردی نشت AI در DeepSeek Inference and Log Data Exposure: DeepSeek’s AI Leak Case Study

• اکسپوز شدن مدل LLM: چگونه APIهای پیکربندی نشده Ollama درها را باز کردند LLM Model Exposure: How Misconfigured Ollama APIs Opened the Door

• ارائه‌دهندگان LLM در مقابل سازمان‌ها: هر کس چه چیزی را ایمن می‌کند؟ LLM Providers vs. Organizations: Who Secures What?

• جمع‌بندی بخش ۳: درس‌های سطح حمله LLM + گام بعدی با OWASP Top 10 Section 3 Wrap-Up: LLM Attack Surface Lessons + What’s Next with OWASP Top 10

• کوییز سطح حمله LLM: تهدیدات دنیای واقعی و مفاهیم امنیتی LLM Attack Surface Quiz: Real-World Threats and Security Concepts

ده ریسک برتر OWASP برای LLMها: درک ریسک‌های امنیتی خاص AI OWASP Top 10 for LLMs: Understanding AI-Specific Security Risks

• مقدمه بخش ۴: ده ریسک برتر OWASP برای LLMها Introduction to Section 4: OWASP Top 10 for LLMs

• ریسک‌های OWASP Top 10 برای LLMها + نگاشت مطالعه موردی OWASP Top 10 Risks for LLMs + Case Study Mapping

امنیت APIهای LLM: دمو بهره‌برداری و کاهش ریسک در دنیای واقعی با OLAMA LLM API Security: Real-World Exploitation & Mitigation Demo with OLAMA

• مقدمه بخش ۵: امنیت APIهای LLM و پیش‌نمایش دموی زنده Section 5 Introduction: LLM API Security & Live Demo Preview

• راه‌اندازی آزمایشگاه: توضیح API ناامن Ollama روی VM Azure Lab Setup: Insecure Ollama API on Azure VM Explained

• دموی عملی: بهره‌برداری از پیکربندی ناامن API اولاما Hands-On Demo: Exploiting an Insecure Ollama API Setup

• اولاما در دنیای واقعی: شناسایی اکسپوزها از طریق Shodan + رفتار ریسکی توسعه‌دهندگان Ollama in the Wild: Real-World Exposure via Shodan + Developer Risk Behavior

• راه‌اندازی کاهش ریسک: ایمن‌سازی API اولاما با NGINX Reverse Proxy Mitigation Setup: Securing Ollama API with NGINX Reverse Proxy

• کاهش ریسک‌های API اولاما با احراز هویت NGINX (دموی عملی) Mitigating OLAMA API Risks with NGINX Authentication (Hands-On Demo)

• چگونه یک API پیکربندی نشده LLM منجر به چندین ریسک OWASP می‌شود How One Misconfigured LLM API Triggers Multiple OWASP Risks

• جمع‌بندی: اکسپوز API، کاهش ریسک و خلاصه ریسک‌های OWASP Wrap-Up: LLM API Exposure, Mitigation & OWASP Risk Summary

• ارزیابی بخش ۶: کوییز اکسپوز و ایمن‌سازی API اولاما Section 6 Assessment: OLLAMA API Exposure and Mitigation Quiz

نگاشت MITRE ATLAS برای حملات LLM MITRE ATLAS Mapping for LLM Attacks

• مقدمه‌ای بر MITRE ATLAS برای امنیت LLM Introduction to MITRE ATLAS for LLM Security

• نگاشت تهدیدات AI با MITRE ATLAS: مطالعه موردی OpenAI در مقابل DeepSeek Mapping AI Threats with MITRE ATLAS: OpenAI vs. DeepSeek Case Study

• جمع‌بندی: MITRE ATLAS در عمل + گام بعدی در آزمایشگاه‌های PortSwigger Wrap-Up: MITRE ATLAS in Action + What’s Next in PortSwigger Labs

آزمایشگاه عملی: بهره‌برداری از تصمیمات AI در APIهای LLM Hands-On Lab: Exploiting AI Decisions in LLM APIs

• مقدمه آزمایشگاه PortSwigger: بهره‌برداری از APIهای LLM با دسترسی بیش از حد PortSwigger Lab Introduction: Exploiting LLM APIs with Excessive Agency

• دموی آزمایشگاه – بهره‌برداری از APIهای LLM با Excessive Agency (PortSwigger) Lab Demo – Exploiting LLM APIs with Excessive Agency (PortSwigger)

• نحوه دسترسی و تمرین شخصی در آزمایشگاه LLM پورت‌سویگر How to Access and Practice the PortSwigger LLM Lab Yourself

• جمع‌بندی بخش: دستاوردهای بهره‌برداری از آزمایشگاه LLM + گام بعدی Section Summary: LLM Lab Exploitation Takeaways + What’s Next

• کوییز بخش ۸: امنیت APIهای LLM – آزمایشگاه Excessive Agency Section 8 Quiz: LLM API Security – Excessive Agency Lab

امنیت سایبری LLM: جمع‌بندی و نکات شغلی LLM Cybersecurity: Summary & Career Tips

• مقدمه: جمع‌بندی دوره و نکات شغلی امنیت سایبری LLM Introduction: Course Wrap-Up & LLM Cybersecurity Career Tips

• مرور دوره: آنچه در امنیت سایبری LLM آموختید Course Recap: What You’ve Learned in LLM Cybersecurity

• هک ذهنیت AI: چگونه مانند یک متخصص امنیت LLM فکر کنیم Hacking the AI Mindset: How to Think Like a LLM Security Expert

• تسلط بر چارچوب‌های امنیتی LLM: OWASP، MITRE و موارد دیگر Mastering LLM Security Frameworks: OWASP, MITRE, and More

• تمرین عملی برای امنیت LLM: ابزارها، آزمایشگاه‌ها و شبیه‌سازی‌ها Hands-On Practice for LLM Security: Tools, Labs, and Simulations

• ساخت حضور حرفه‌ای در امنیت GenAI: نکات برندینگ، وبلاگ‌نویسی و تحقیق Build Your Presence in GenAI Security: Branding, Blogging & Research Tips

• انگیزه نهایی: چرا شما برای شغلی در امنیت LLM آماده هستید Final Motivation: Why You’re Ready for a Career in LLM Security

• پایان دوره: تشکر و reflections نهایی Course Wrap-Up: Thank You and Final Reflections